あらゆる AI モデルに安全にアクセス
Mosaic AI ゲートウェイは、企業内の全てのモデルに対して一元管理されたガバナンスを通じて、データと生成 AI のデプロイメントを保護します。Azure OpenAI、Amazon Bedrock on AWS、Meta Llama 3 など、あらゆるモデルのエンドポイントをサポートする AI ゲートウェイは、単一の強力なクエリインターフェースを通じて、最先端のイノベ ーションにアクセスできます。AI ゲートウェイを使用すると、コードベースを変更することなく、容易に新しいモデルのテストや入れ替えができます。Unity Catalog で使用状況を追跡し、パーミッションを設定することで、機密データの漏洩を防ぎます。さらに、AI ゲートウェイはリアルタイムの支出分析機能による財務管理ができるため、業務の効率化を図ります。
全ての AI モデルへの統一されたアクセス
Mosaic AI ゲートウェイは、OpenAI や Meta Llama 3 のような外部の LLM を含む、幅広いモデルへの統一されたアクセスを、単一の標準クエリインターフェイスを通して提供します。これにより、AI のトラフィックを管理するために別のシステムを維持する必要がなくなります。企業は、基盤モデルとカスタムモデルを容易に切り替えることができ、パイプラインの中断がなく、メンテナンスが簡素化されます。
高度なセキュリティとガバナンス
GenAIの採用は、複雑なセキュリティプロトコル、データガバナンス基準、アクセス制御をナビゲートすることを意味します。AI ゲートウェイは、ペイロードログ、使用状況のトラッキング、ガードレールのアクティブ化など、モデルAPIを介して流れるデータを Unity Catalog に取り込み、安全に保存、共有、管理することで、これを簡素化します。一元化されたガバナンスと、コンテンツフィルタリングや PII 検出などのカスタムガードレールにより、全てのエンドポイントにわたって一貫したセキュリティとコンプライアンスを確保し、組織の最も重要な情報を保護します。
モデル精度の向上
詳細なリクエストとレスポンスのデータを取得する堅牢な観測可能性ツールで、モデルの品質を向上させます。ペイロードロギングにより、モデルのデバッグ、微調整、強化が可能になり、精度が向上し、待ち時間が短縮されます。これにより、AI アプリケーションが最高のパフォーマンスを発揮し、最適な結果が得られるようになります。
支出の監視
Databricks の観測可能なツールは、詳細な使用状況の追跡と支出の監視を提供します。AI の運用状況をリアルタイムで把握することで、経費の監視、リソース配分の最適化、効率的なパフォーマンスの確保が可能になります。これらのツールは、AI 導入の効果を最大化しながら、財務管理を維持するのに役立ちます。