テーマ切替
Databricks Data Engineer Associate 取得ロードマップ
Databricks 認定データエンジニア アソシエイト(Associate)合格までの学習ロードマップです。日本語だけで合格まで到達できる構成にしています。 前提知識の全体像は databricks-overview.md を参照してください。 図は Mermaid 記法。VSCode の Markdown プレビューや GitHub 上で図として表示されます。
目次
- 前提と到達目標
- 試験スペック
- 出題範囲(7セクション)
- 学習ロードマップ全体像
- 週次スケジュール(8週間モデル)
- セクション別 学習チェックリスト
- ハンズオン課題
- 問題演習の進め方
- 日本語リソース集
- 受験直前・当日チェック
1. 前提と到達目標
| 項目 | 内容 |
|---|---|
| ゴール | Databricks Certified Data Engineer Associate に合格(70%以上) |
| 想定期間 | 週 5〜8 時間 × 6〜8 週間 |
| あると良い前提 | SQL の基本、Python の基礎文法、テーブル/ETL の概念 |
| 前提知識ゼロなら | まず databricks-overview.md を通読してから開始 |
| キーワード | 「読むだけでなく手を動かす」— 実装寄りの試験なので必ずノートブックで操作する |
⚠️ 試験は 2025 年後半に改訂され 5→7 セクション に再構成されました。古い教材は範囲がずれるため、必ず最新の公式試験ガイドで範囲を確認してください。
2. 試験スペック
| 項目 | 内容 |
|---|---|
| 問題数 | 45 問(選択式) |
| 制限時間 | 90 分 |
| 合格ライン | 70% 以上 |
| 費用 | 200 USD |
| 有効期限 | 2 年間 |
| 受験形式 | オンライン監督 or テストセンター |
| 言語 | 日本語で受験可能 ✅ |
| 申込 | Webassessor |
3. 出題範囲(7セクション)
改訂後(2026 年時点)のおおまかな構成です。正確な比率は最新の公式試験ガイド(日本語版あり)で必ず確認してください。
| # | セクション | 主なトピック |
|---|---|---|
| 1 | プラットフォーム基礎 | レイクハウス、ワークスペース、クラスター、Delta Lake の概念 |
| 2 | データ取り込み | Auto Loader(cloudFiles)、Lakeflow Connect、COPY INTO |
| 3 | データ変換・モデリング | PySpark / Spark SQL、UDF、複雑なデータ処理、メダリオン |
| 4 | Lakeflow Jobs | ジョブ作成・スケジュール・依存関係・リトライ・通知 |
| 5 | ガバナンス・セキュリティ | Unity Catalog、権限、catalog.schema.table |
| 6 | トラブルシューティング・最適化 | Spark UI、Liquid Clustering、predictive optimization、OOM 診断 |
| 7 | CI/CD | Databricks Asset Bundles、Git Folders、Databricks CLI |
📝 旧試験にあった Delta Sharing / Lakehouse Federation は削除されました。古い問題集でこの範囲に時間をかけないよう注意。
4. 学習ロードマップ全体像
進め方の原則:Phase 1(インプット)と Phase 2(ハンズオン)は並行して回す。Phase 3 で間違えた領域は Phase 2 のハンズオンに戻る。この往復が合格の近道。
5. 週次スケジュール(8週間モデル)
| 週 | 重点 | 具体アクション |
|---|---|---|
| 1週目 | 準備 | 公式試験ガイド(日本語)DL・範囲把握/Free Edition で環境構築/overview 通読 |
| 2〜3週目 | 基礎インプット | Delta Lake・Unity Catalog・Lakeflow の概念を日本語ブログ+ハンズオンで理解 |
| 3〜4週目 | ハンズオン① | PySpark / Spark SQL で ETL、Auto Loader で取り込み |
| 5週目 | ハンズオン② | Lakeflow Jobs でジョブ化・スケジュール、宣言的パイプライン |
| 6週目 | 演習① | 公式練習問題を解く/間違えた範囲をハンズオンで復習 |
| 7週目 | 演習② | 日本語模擬問題集を周回、CI/CD・最適化の知識補強 |
| 8週目 | 仕上げ | 公式練習問題で安定 9 割/用語の英語表記を最終確認/受験 |
6. セクション別 学習チェックリスト
① プラットフォーム基礎
- [ ] レイクハウスとは何か、DWH/データレイクとの違いを説明できる
- [ ] ワークスペース・ノートブック・クラスターの基本操作ができる
- [ ] Delta Lake が「ACID・タイムトラベル・スキーマ管理」を提供する仕組みを理解
② データ取り込み
- [ ] Auto Loader(
cloudFiles)で増分ファイル取り込みができる - [ ]
COPY INTOの使いどころを説明できる - [ ] Lakeflow Connect の役割を理解
- [ ] スキーマ推論・スキーマ進化(schema evolution)の挙動を理解
③ データ変換・モデリング(最重要)
- [ ] PySpark DataFrame API(
select/filter/withColumn/join/groupBy) - [ ] Spark SQL でのクエリ・CTAS・ビュー
- [ ] UDF の定義と使用
- [ ]
MERGE INTO(アップサート) - [ ] メダリオン(Bronze/Silver/Gold)で段階的に整形できる
- [ ] マネージド vs 外部テーブルの違い
④ Lakeflow Jobs
- [ ] ジョブ・タスクの作成、依存関係の設定
- [ ] スケジュール(cron / トリガー)
- [ ] リトライ・通知・パラメータ渡し
- [ ] 宣言的パイプライン(旧 DLT)の Expectations(品質チェック)
⑤ ガバナンス・セキュリティ
- [ ] Unity Catalog の 3 階層
catalog.schema.table - [ ]
GRANT/REVOKEによる権限管理 - [ ] データリネージ・監査ログの概念
⑥ トラブルシューティング・最適化
- [ ] Spark UI でボトルネック(シャッフル・スキュー)を読む
- [ ]
OPTIMIZE/VACUUM/ Liquid Clustering の役割 - [ ] predictive optimization の概念
- [ ] OOM やクラスターサイズ不足の切り分け
⑦ CI/CD
- [ ] Databricks Asset Bundles でジョブ/パイプラインをコード管理
- [ ] Git Folders(旧 Repos)で Git 連携
- [ ] Databricks CLI の基本操作
7. ハンズオン課題
実際に手を動かすためのミニ課題。メダリオンを一気通貫で作るのが一番効率的です。
💡 手順・コード付きの詳細版は ../06_hands-on/handson-associate.md(全12課題)にあります。 無料の Databricks Free Edition で実行でき、Free Edition の制約と「実機で練習できない範囲の補い方」は ../06_hands-on/00-free-edition.md にまとめています。
- Bronze:サンプル CSV/JSON をクラウドストレージに置き、Auto Loader で Delta テーブルへ増分取り込み
- Silver:PySpark でクレンジング(null 除去・型変換・重複排除)し、
MERGE INTOで更新 - Gold:Spark SQL で集計テーブルを作成
- Jobs 化:上記を Lakeflow Jobs で 3 タスクの依存関係付きジョブにしてスケジュール実行
- ガバナンス:Unity Catalog にカタログ/スキーマを作り、
GRANTで権限を付与 - 最適化:
OPTIMIZEや Liquid Clustering を適用し、Spark UI で前後を比較 - CI/CD:完成したジョブを Asset Bundle 化し、Git Folders に登録
8. 問題演習の進め方
- 公式練習問題(Practice Exam)を最優先。合格者の多くが「本番と非常に近い」と証言。
- 本リポジトリの ../08_mock-exam/mock-associate.md(45問 / 90分・配点比例) を時間を計って解き、採点表でドメイン別の弱点を特定する。用語は ../07_reference/glossary.md、数値は ../07_reference/cheatsheet-numbers.md で仕上げる。
- 日本語模擬問題集(Udemy)は量をこなす用。ただし翻訳の甘さがあるので用語は英語も併記して暗記。
- 目標:公式練習問題で安定して 90% 以上取れたら受験 GO。
9. 日本語リソース集
| 種別 | リソース |
|---|---|
| 公式 | Associate 認定 公式ページ(日本語) |
| 全体像 | Databricksの認定資格 全部とってみた(Qiita) |
| 合格体験記 | 合格しました 2025年5月(Zenn) |
| 合格体験記 | 合格体験記(電通デジタル) |
| 模擬問題 | 日本語 模擬問題集(Udemy) |
| 模擬問題 | 日本語版オリジナル問題集(Udemy) |
| 概念理解 | Databricksをちょっとだけ理解する(Zenn) |
10. 受験直前・当日チェック
- [ ] Webassessor で申込時に言語=日本語を選択
- [ ] オンライン受験なら:本人確認書類、静かな個室、机の上を片付ける(監督カメラチェックあり)
- [ ] 安定したネット回線、Webカメラ、対応ブラウザを事前テスト
- [ ] 90 分/45 問 = 1 問あたり 2 分。迷う問題はフラグを立てて後回し
- [ ] 用語の英語表記(Auto Loader, Unity Catalog, Asset Bundles…)を直前に見直す
次のステップ:合格後は roadmap-professional.md でプロフェッショナルへ。間に「実務で PySpark を触る期間」を挟むと合格率が上がります。