Mosaic AI エージェントフレームワーク
本番品質の検索拡張生成(RAG)アプリの構築
検索拡張生成(RAG)は、質問やタスクに関連するデータや文書を見つけ、それらを大規模言語モデル(LLM)がより正確な応答をコンテキストとして生成するための生成的 AI のアプリケーションパターンです。
Mosaic AI エージェントフレームワークは、開発者が高品質な生成 AI アプリケーションを構築およびデプロイするために設計されたツール群で、RAG を使用して出力を一貫して測定し、評価することで、正確で安全かつ管理された成果を提供します。また、Mosaic AI エージェントフレームワークは、開発者が RAG アプリケーションの品質を容易に評価し、仮説をテストして迅速に反復を行い、アプリケーションを容易に再デプロイメントし、品質を継続的に確保するための適切なガバナンスとガードレールを提供します。
最高の本番品質
Mosaic AI エージェントフレー ムワークは、組織が生産品質の生成 AI アプリケーションをデプロイし、出力が常に正確で安全かつ管理されていることを測定し評価するのをサポートします。Mosaic AI エージェントフレームワークには、アウトプットが高品質であるかどうかを自動的に判断できる独自の AI 支援評価と、人間のステークホルダーからフィードバックを得るための直感的な UI が組み込まれています。
迅速な開発イテレーション
Mosaic AI エージェントフレームワークは、開発者が生成AIアプリケーションについてフィードバックを受け取り、仮説をテストするために迅速に変更を繰り返すのを容易にします。その後、エンドツーエンドの LLMOps ワークフローを使って、コードを変更することなく、アプリケーションを本番環境に再デプロイできます。開発者は、RAG プロセスのあらゆる側面(データ準備、ベクターデータベース、モデルデプロイメント、監視、セキュリティ、ガバナンスなど)について繰り返し作業を行うことができます。
ガバナンスとガードレール
Mosaic AI エージェントフレームワークは、Databricks のデータ・インテリジェンス・プラットフォームの他の全ての部分とシームレスに統合されています。これにより、セキュリティやガバナンス、データ統合、ベクターデータベース、品質評価、ワンクリックで最適化されたデプロイメントまで、エンドツーエンドのRAG システムをデプロイするために必要なものが全て揃います。ガバナンスとガードレールが整備されていることで、有害な応答を防止し、アプリケーションが組織のポリシーに従うことを確保できます。
あらゆる種類のデータに対応する自動化されたリアルタイムパイプライン
Mosaic AI は、オンライン検索のためのデータ提供とインデックス作成をネイティブにサポートします。非構造化データ(テキスト、画像、動画)の場合、Vector Search が自動的にインデックス化してデータを提供するため、個別のデータパイプラインを作成することなく、RAG アプリケーションからデータにアクセスすることができます。Vector Search は、障害の管理、再試行の処理、バッチサイズの最適化を行い、最高のパフォーマンス、スループット、コストを提供します。構造化データについては、Feature and Function Serving がユーザーやアカウントデータを含むコンテキストデータのクエリをミリ秒単位で提供します。これらのデータは、企業がプロンプトに注入し、ユーザー情報に基づいてカスタマイズすることがよくあります。