メインコンテンツへジャンプ

DevOps Essentials for Data Engineering - Japanese

このコースでは、Databricks を使用するデータエンジニア向けに特別に設計された、ソフトウェアエンジニアリングのベストプラクティスと DevOps の原則について説明します。 参加者は、コード品質、バージョン管理、ドキュメンテーション、テストなどの主要なトピックで強力な基盤を構築します。 このコースではDevOpsに重点を置き、コアコンポーネント、利点、およびデータエンジニアリングワークフローの最適化における継続的インテグレーションと継続的デリバリー(CI/CD)の役割について説明します


PySpark でモジュール性の原則を適用して、再利用可能なコンポーネントを作成し、コードを効率的に構造化する方法を学習します。 実践的な経験には、pytest フレームワークを使用した PySpark 関数の単体テストの設計と実装、その後の DLT と Workflows を使用した Databricks データパイプラインの統合テストが含まれ、信頼性を確保します


このコースでは、Databricks Git フォルダーを使用した継続的インテグレーションのプラクティスの統合など、Databricks 内の基本的な Git 操作についても説明します。 最後に、REST API、CLI、SDK、Databricks アセットバンドル (DAB) など、Databricks アセットのさまざまなデプロイ方法の概要を説明し、パイプラインをデプロイして管理する手法に関する知識を身に付けます


このコースを修了すると、ソフトウェアエンジニアリングとDevOpsのベストプラクティスに習熟し、スケーラブルで保守可能、かつ効率的なデータエンジニアリングソリューションを構築できるようになります。


Languages Available: English | 日本語 | Português BR | 한국어 | Español | française

Skill Level
Associate
Duration
4h
Prerequisites
  • Databricks プラットフォームに関する十分な知識、Databricks ワークスペースの経験、Apache Sparkの経験、メダリオンアーキテクチャの経験、Delta Lakeの経験、Unity Catalogの経験、Delta Live Tablesの経験、そしてワークフローの経験。 Git バージョン管理の基本的な理解も必要です
  • データの取り込みと変換の経験があり、データ処理と DataFrame 操作について、PySpark に習熟している。 さらに、受験者は、データ分析と変換のための中級レベルのSQLクエリを作成した経験が必要です。
  • Pythonプログラミングの知識と、関数やクラスを設計および実装する能力を含む、中級レベルのPythonコードの記述に習熟している必要です。 また、ユーザーは Python パッケージの作成、インポート、および効果的な利用に熟練している必要があります。

Outline

ソフトウェアエンジニアリング、DevOps、CI/CD 基礎

ソフトウェアエンジニアリング(SWE)ベストプラクティス入門

〜への紹介 PySpark コードのモジュール化

PySpark のモジュール化 コード

DevOps の基礎 

CI/CDの役割における中 DevOps

知識 チェック/ディスカッション


継続的インテグレーション 

プロジェクトの計画 

プロジェクト設定の探索 (必須)

PySpark の単体テストの概要

単体テストの作成と実行

インテグレーションの実行 DLT を使用したテストと ワークフロー

DLT を使用した統合テストの実行と ワークフロー

Git によるバージョン管理の概要


継続的デプロイメントの概要

Databricks アセット のデプロイの概要 (スライド)

Databricks プロジェクトをデプロイする

Upcoming Public Classes

Date
Time
Language
Price
Apr 15
02 PM - 06 PM (Asia/Tokyo)
Japanese
$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

今すぐ登録

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

今すぐ登録

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Apache Spark Developer

Apache Spark™ Programming with Databricks - Japanese

このコースは、Databricksを使ったApache Sparkプログラミングを学ぶための適切な入口となります。

以下では、このコースに含まれる4つのモジュール(4時間)について説明します。

Introduction to Apache Spark

この初心者向けのコースでは、大規模なデータ処理のための Apache Spark の基礎について説明します。 Spark の分散アーキテクチャを探索し、DataFrame API をマスターし、Python を使用してデータの読み取り、書き込み、処理する方法を学習します。 実践的な演習を通じて、Sparkの変換とアクションを効率的に実行するために必要なスキルを身に付けます。 

Developing Applications with Apache Spark

このハンズオンコースでは、Apache Spark を使用したスケーラブルなデータ処理を習得します。 Spark の DataFrame API を使用して、効率的な ETL パイプラインを構築し、高度な分析を実行し、分散データ変換を最適化する方法を学びます。 グループ化、集計、結合、集合演算、ウィンドウ関数について調べます。 配列、マップ、構造体などの複雑なデータ型を操作しながら、パフォーマンス最適化のベストプラクティスを適用します。

Stream Processing and Analysis with Apache Spark

このコースでは、Apache Spark を使用したストリーム処理と解析の基本について学習します。 ストリーム処理の基礎をしっかりと理解し、Spark 構造化ストリーミング API を使用してアプリケーションを開発します。 ストリーム集約やウィンドウ分析などの高度な手法を探索して、リアルタイム データを効率的に処理します。 このコースでは、動的データ環境向けにスケーラブルでフォールトトレラントなストリーミングアプリケーションを作成するスキルを身に付けます。

Monitoring and Optimizing Apache Spark Workloads on Databricks

このコースでは、セキュアなデータガバナンス、アクセスコントロール、リネージトラッキングのためのUnity Catalogを中心に、スケーラブルなデータワークフローのためのレイクハウスアーキテクチャとメダリオン設計を探求します。カリキュラムには、Delta Lakeを使用した信頼性の高いACID準拠のパイプラインの構築も含まれます。パーティショニング、キャッシング、クエリチューニングなどのSpark最適化テクニックを検証し、パフォーマンスモニタリング、トラブルシューティング、効率的なデータエンジニアリングとアナリティクスのベストプラクティスを学び、現実世界の課題に取り組みます。

Languages Available: English | 日本語 | 한국어

Paid
16h
Lab
instructor-led
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.