メインコンテンツへジャンプ

複合AIシステムに対するバズは現実であり、それには十分な理由があります。複合AIシステムは、複数のAIモデル、ツール、システムの最良の部分を組み合わせて、単一のAIでは効率的に対処するのが難しい複雑な問題を解決します。

振り返る:モノリシックからマイクロサービスへ

複合AIシステムの魔法に飛び込む前に、少し戻ってアプリケーション開発がどのように進化してきたかを探ってみましょう。モノリシックなアプリケーションの日々を覚えていますか?これらは巨大な、一体型のソフトウェアシステムで、フロントエンドのインタラクション、バックエンドの処理、データベース管理を一つのコードベース内で処理していました。彼らは強力でしたが、欠点もありました。

 

モノリシックアーキテクチャの課題:

  • 遅い更新: アプリケーションの一部を少し修正するだけで、システム全体を再デプロイする必要がありました。
  • スケーリングの問題: システムの一部が重負荷になると、システム全体をスケールアップしなければなりませんでした。
  • 単一の障害点: 一つのコンポーネントがクラッシュすると、システム全体がダウンする可能性があります。

これにより、マイクロサービスアーキテクチャが登場し、ビジネスが大規模なモノリシックなアプリケーションを小さな自己完結型のサービスに分割することを可能にしました。各マイクロサービスは、ユーザー認証や在庫管理などの特定のビジネス機能に焦点を当て、モノリシックなシステムでは実現できなかった柔軟性とスケーラビリティを提供しました。

 

マイクロサービスの利点:

  • より速い更新: 他の部分に触れることなく、一つのマイクロサービスを更新またはデプロイすることができます。
  • スケーラビリティ: 需要に基づいて個々のサービスをスケールします。
  • 障害分離: 一つのサービスがクラッシュしても、他のサービスは稼働し続けます。


しかし、マイクロサービスには課題もありました:

  • 高いオーバーヘッド: 多くのサービスを管理するためには、より多くの調整とインフラが必要です。
  • 遅延: サービス間の通信が処理を遅くすることがありました。
  • 一貫性の問題: サービス間でデータを同期させるのは難しかった。

AIの世界も同じ方向へ進んでいます

AIの世界でも同じ進化が見られます。GPT-4やMeta Llamaのような大規模な言語モデル(LLM)は、幅広いタスクを処理するのに優れていますが、モノリシックなアプリケーションと同様に、すべての仕事に完璧なわけではありません。

 

複合AIシステムはGenAI版のマイクロサービスです。これらのシステムはAIタスクを特化したセグメントに分解します。すべてを一つの巨大なモデルに頼るのではなく、各モデル、ツール、コンポーネントが特定のタスクに最適化されて展開されます。

 

なぜ複合AIシステムがうまく機能するのか:

  • 一般的な専門家と特殊な専門家:大きな基礎モデルは広範な洞察を提供し、特化したモデルは医療診断やリアルタイムのサイバーセキュリティ脅威検出のようなニッチなタスクを処理します。
  • モジュラリティ:新しいモデルが必要ですか?システム全体を再訓練することなく、それを交換するだけです。
  • 最適化:モデルとツールは、タスクの特定の部分に対して微調整することができ、システム全体をより効率的で正確にします。

複合AIシステムの動作方法

それでは、実際に複合AIシステムはどのように見えるのでしょうか?特定の領域で優れたAIモデルのチームが、複雑なタスクを解決するために協力して働く様子を想像してみてください:

  1. 複数のLLM: 特定のタスクやドメインに最適化された異なる言語モデルを使用することができます。
  2. 外部ツール:検索エンジン、API、またはデータ取得システムは、AIパイプラインに豊富な情報を供給することができます。
  3. オーケストレータ:タスクオーケストレータは、各モデルやツールをタスクにどのように使用するか、いつ使用するかを指示します。

このモジュラーなアプローチにより、複合AIシステムは複雑な課題をより小さく、管理しやすいステップに分解することができます。これは、マイクロサービスが伝統的なアプリケーション開発を革新したのと同じような方法です。

Mosaic AI:複合AIシステムの力

先頭を走るプラットフォームの一つはDatabricks Mosaic AIです。これは、複数のAIモデル、データ取得システム、外部APIを統合することで、企業が生産品質の複合AIシステムを構築するためのツールを提供します。

 

なぜDatabricks Mosaic AIが際立っているか:

  • シームレスな統合: 内部のデータソースと外部のツールの両方に安全かつ簡単に接続し、モデルが作業するための豊富で文脈的なデータを提供します。
  • スケーラビリティ: Mosaic AIモデルの提供を使用して、需要に基づいて個々のコンポーネントをスケーリングできます。
  • カスタマイズ: 各コンポーネントは、より正確な結果を保証するために、カスタムデータに微調整することができます。

メンテナンスボットのための複合AIシステムの構築

これを具体的に理解するために、メンテナンスボットを見てみましょう。これはDatabricks Mosaic AIによって動かされています。このボットは、機械のトラブルシューティング、修理マニュアルのアクセス、文脈に基づいた洞察の提供を支援するために構築されています。

複合AIシステムアーキテクチャ

ステップバイステップのフローの詳細:

  1. マニュアルのチャンキングと保存:
    • マニュアルは小さなピースに分割され、Databricksの埋め込みモデルを使用してベクトル埋め込みに変換されます。これらの埋め込みは、素早い取得のためにベクトル検索インデックスに保存されます。
  2. 歴史的データの収集と保存:
    • このシステムは、工場設備からの保守ログ、サービスリクエスト、在庫データ、IoTセンサーの読み取りデータを収集します。このデータはクリーニングされ、集約され、メダリオンアーキテクチャに保存され、豊富なデータはグラフデータベースに保存されます。これは、機械、部品、欠陥、エラーコードなどの関係を保存します。
  3. 複合AIシステムの構築:
    • DsPyフレームワークを使用して、 AIは複数のコンポーネントを調整します:
      • ユーザーの質問(例えば、「エラーDF-3466をどのように修正するか?」)はベクトル埋め込みに変換され、ベクトルデータベース内のマニュアルデータで検索されます。
      • 同時に、質問は微調整されたテキストからサイファーへのLlamaモデルを使用してサイファークエリに変換されます。このサイファークエリは、エラーが以前に報告されていたか、どのように修正されたかを確認するために、グラフデータベースに問い合わせるために使用され、文脈に基づく洞察を提供します。
  4. レスポンスの要約:
    • DsPyフレームワークは、マニュアルとグラフデータベースの両方からの応答を組み合わせ、Llama foundationモデルを使用してユーザーに結果をまとめます。
  5. Mosaic AIでのデプロイ:
    • 複合AIシステムを統合するDsPyフレームワークはDatabricks モデル提供にデプロイされ、AIシステムがスケーラブルで安全であることを保証します。 Mosaic AI Gatewayはエンドポイントのアクセスとセキュリティを管理します。
  6. NLPを用いたFAQ生成:
    • ユーザーのリクエストとレスポンスのログはDeltaテーブルに保存されます。NLPを使用して、よくある質問を特定し、ランク付けし、将来同様の問題が発生したときにユーザーに提供します。

このメンテナンスボットは、ベクトル埋め込み、グラフデータベース、LLMなどの複数のAIコンポーネントを組み合わせて、複雑なユーザークエリを効率的かつ知的に解決する複合AIシステムの完璧な例です。

未来は複合的です

マイクロサービスがアプリケーションの構築方法を変えたように、複合AIシステムはAIを使って複雑な問題を解決する方法を変えています。特化したモデルとツールが協力して働くことで、より柔軟で効率的で強力なAIシステムを構築することができます。

 

Databricks Mosaic AIのようなプラットフォームを使用すると、 Databricks Mosaic AI 、企業はこれらのシステムをスケールでデプロイでき、AIソリューションが最先端であるだけでなく、製品化準備も整っていることを確認できます。 だから、一つの脳で満足するのではなく、一緒に働く天才AIのチームを持つことができます。AIの未来は複合的で、それは今起こっています。

 

複合AIシステムについての詳細情報は、このブログ投稿で詳しく読むことができます:モデルから複合AIシステムへのシフト.

 

Databricks 無料トライアル

関連記事

ロールスロイスの画像生成に Databricks Mosaic AI のパワーを活用する

ロールス・ロイスは、様々なAIプロジェクトにおいて Databricksデータインテリジェンスプラットフォーム の変革的な力を目の当たりにしてきました。その一例として、ロールス・ロイスとDatabricksの協力プロジェクトがあります。このプロジェクトは条件付き敵対的生成ネットワーク(cGAN)の学習プロセスの最適化に焦点を当てており、 Databricks Mosaic AIツール を使用することの多くの利点を実証しています。 このcGAN学習最適化の共同プロジェクトでは、チームは数値、テキスト、画像データの使用を検討しました。主な目標は、ロールス・ロイスの設計空間探索能力を向上させ、パラメトリックモデルの限界を克服することでした。これは、従来の形状モデリングとシミュレーションプロセスを必要とせずに、特定の設計条件を満たす革新的な設計コンセプトの識別と評価を推進するために、過去のシミュレーションデータを再利用できるようにすることで達成されました。 ビデオを見る: ロールスロイスがクラウドベースの生成AI を使用

Mosaic AI:本番運用のための複合AIシステムの構築とデプロイ

Translation Review by saki.kitaoka 過去1年間で、一般知識タスクにおける優れた推論能力を示す商用およびオープンソースの基礎モデルの急増を目の当たりにしました。 一般モデルは重要な構成要素ですが、実際のAIアプリケーションは、調整されたモデル、検索、ツールの使用、および推論エージェントなど、複数のコンポーネントを活用する 複合AIシステム が採用されることが多くなっています。AIシステムは基礎モデルを強化し、品質を大幅に向上させることで、顧客がこれらの生成AIアプリケーションを自信を持って運用に導入できるようにします。 本日、Data and AI Summitで、Databricks Mosaic AIが本格的なAIシステムを構築するための最良のプラットフォームとなる新機能を発表しました。これらの機能は、数千の企業と協力してAI駆動アプリケーションを運用に投入してきた経験に基づいています。本日の発表には、基礎モデルのファインチューニングのサポート、AIツールのエンタープライズカタ

DatabricksのモザイクAIを用いて複合AIシステムをより高速に構築!

多くのお客様が、一般的なモデルを使用したモノリシックなプロンプトから、製品準備完了のGenAIアプリに必要な品質を達成するための特化した複合AIシステムへと移行しています。 7月には、 エージェントフレームワークとエージェント評価を立ち上げ 、多くの企業がエージェントアプリケーションを作成するために使用しています。その一例が Retrieval Augmented Generation (RAG) です。今日、私たちはエージェントフレームワークに新機能を追加し、複雑な推論を行い、サポートチケットの開設、メールへの返信、予約の取得などのタスクを実行するエージェントの構築プロセスを簡素化することを発表します。これらの機能には以下のものが含まれます: 構造化されたエンタープライズデータと非構造化エンタープライズデータを共有可能で管理された AIツールを通じてLLMに接続します。 新しいプレイグラウンド体験を使って、エージェントを素早く実験し評価します 。 新しい ワンクリックコード生成 オプションを使用して、プレイグラ
生成 AI一覧へ