メインコンテンツへジャンプ

DevOps Essentials for Data Engineering - Japanese

このコースでは、Databricks を使用するデータエンジニア向けに特別に設計された、ソフトウェアエンジニアリングのベストプラクティスと DevOps の原則について説明します。 参加者は、コード品質、バージョン管理、ドキュメンテーション、テストなどの主要なトピックで強力な基盤を構築します。 このコースではDevOpsに重点を置き、コアコンポーネント、利点、およびデータエンジニアリングワークフローの最適化における継続的インテグレーションと継続的デリバリー(CI/CD)の役割について説明します


PySpark でモジュール性の原則を適用して、再利用可能なコンポーネントを作成し、コードを効率的に構造化する方法を学習します。 実践的な経験には、pytest フレームワークを使用した PySpark 関数の単体テストの設計と実装、その後の DLT と Workflows を使用した Databricks データパイプラインの統合テストが含まれ、信頼性を確保します


このコースでは、Databricks Git フォルダーを使用した継続的インテグレーションのプラクティスの統合など、Databricks 内の基本的な Git 操作についても説明します。 最後に、REST API、CLI、SDK、Databricks アセットバンドル (DAB) など、Databricks アセットのさまざまなデプロイ方法の概要を説明し、パイプラインをデプロイして管理する手法に関する知識を身に付けます


このコースを修了すると、ソフトウェアエンジニアリングとDevOpsのベストプラクティスに習熟し、スケーラブルで保守可能、かつ効率的なデータエンジニアリングソリューションを構築できるようになります。


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Associate
Duration
4h
Prerequisites
  • Databricks プラットフォームに関する十分な知識、Databricks ワークスペースの経験、Apache Sparkの経験、メダリオンアーキテクチャの経験、Delta Lakeの経験、Unity Catalogの経験、Delta Live Tablesの経験、そしてワークフローの経験。 Git バージョン管理の基本的な理解も必要です
  • データの取り込みと変換の経験があり、データ処理と DataFrame 操作について、PySpark に習熟している。 さらに、受験者は、データ分析と変換のための中級レベルのSQLクエリを作成した経験が必要です。
  • Pythonプログラミングの知識と、関数やクラスを設計および実装する能力を含む、中級レベルのPythonコードの記述に習熟している必要です。 また、ユーザーは Python パッケージの作成、インポート、および効果的な利用に熟練している必要があります。

Outline

ソフトウェアエンジニアリング、DevOps、CI/CD 基礎

ソフトウェアエンジニアリング(SWE)ベストプラクティス入門

〜への紹介 PySpark コードのモジュール化

PySpark のモジュール化 コード

DevOps の基礎 

CI/CDの役割における中 DevOps

知識 チェック/ディスカッション


継続的インテグレーション 

プロジェクトの計画 

プロジェクト設定の探索 (必須)

PySpark の単体テストの概要

単体テストの作成と実行

インテグレーションの実行 DLT を使用したテストと ワークフロー

DLT を使用した統合テストの実行と ワークフロー

Git によるバージョン管理の概要


継続的デプロイメントの概要

Databricks アセット のデプロイの概要 (スライド)

Databricks プロジェクトをデプロイする

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Register now

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Register now

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Automated Deployment with Databricks Asset Bundles - Japanese

このコースでは、DevOps の原則と Databricks プロジェクトへの適用について包括的に復習します。 まず、コア DevOps、DataOps、継続的インテグレーション (CI)、継続的デプロイ (CD)、テストの概要を説明し、これらの原則をデータエンジニアリングのパイプラインに適用する方法を探ります

次に、CI/CD プロセス内の継続的デプロイに焦点を当て、プロジェクトのデプロイメント用の Databricks REST API、SDK、CLI などのツールを検討します。 Databricks アセットバンドル (DAB) と、それらが CI/CD プロセスにどのように適合するかについて学習します。 主なコンポーネント、フォルダー構造、Databricks のさまざまなターゲット環境へのデプロイを合理化する方法について詳しく説明します。 また、Databricks CLI を使用して、構成の異なる複数の環境に対して変数の追加、変更、検証、デプロイ、および実行を行う方法についても学習します

最後に、このコースでは、Databricks アセットバンドルをローカルでビルド、テスト、デプロイするための対話型開発環境 (IDE) としての Visual Studio Code を紹介し、開発プロセスを最適化します。 このコースの最後には、GitHub Actions を使用してデプロイパイプラインを自動化し、Databricks Asset Bundles で CI/CD ワークフローを強化する方法を紹介します

このコースを修了すると、Databricks アセットバンドルを使用して Databricks プロジェクトのデプロイを自動化し、DevOps プラクティスを通じて効率を向上させることができるようになります。

Languages Available: English | 日本語 | Português BR | 한국어

Paid
4h
Lab
Professional

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.