Translation Review by saki.kitaoka
過去1年間で、一般知識タスクにおける優れた推論能力を示す商用およびオープンソースの基礎モデルの急増を目の当たりにしました。
一般モデルは重要な構成要素ですが、実際のAIアプリケーションは、調整されたモデル、検索、ツールの使用、および推論エージェントなど、複数のコンポーネントを活用する複合AIシステムが採用されることが多くなっています。AIシステムは基礎モデルを強化し、品質を大幅に向上させることで、顧客がこれらの生成AIアプリケーションを自信を持って運用に導入できるようにします。
本日、Data and AI Summitで、Databricks Mosaic AIが本格的なAIシステムを構築するための最良のプラットフォームとなる新機能を発表しました。これらの機能は、数千の企業と協力してAI駆動アプリケーションを運用に投入してきた経験に基づいています。本日の発表には、基礎モデルのファインチューニングのサポート、AIツールのエンタープライズカタログ、新しいAIエージェントの構築、デプロイ、評価のためのSDK、およびデプロイされたAIサービスを管理するための統一されたAIゲートウェイが含まれています。
この一連の発表により、DatabricksはMosaicMLの買収時に初めて組み込まれたモデル構築機能を完全に統合し、大幅に拡張しました。
モノリシックAIモデルから複合システムへの評価は、学術界と産業界の両方で活発な研究分野です。最近の研究結果は、「最先端のAI結果は、単なるモノリシックモデルではなく、複数のコンポーネントを持つ複合システムによって得られることが増えている」と示しています。これらの発見は、私たちの顧客基盤でも確認されています。例えば、金融調査会社のFactSetは、商用LLMをテキストから金融フォーミュラへのユースケースに展開した際、生成されたフォーミュラの精度は55％しか得られませんでしたが、モデルを複合システムにモジュール化することで、各タスクを専門化し、精度を85％に向上させました。Mosaic AIプラットフォームは、以下の製品を通じてAIシステムの構築をサポートしています。
小規模データセットでモデルをファインチューニングする場合でも、数兆のトークンで3,000以上のGPUを使用してDBRXのようなモデルをスクラッチからプレトレーニングする場合でも、基盤インフラを抽象化した使いやすい管理APIを提供します。顧客は、システムコンポーネント用に小規模なオープンソースモデルをファインチューニングしてコストと遅延を削減しながら、独自データで企業タスクにおいてGPT-4の性能に匹敵する成果を上げています。モデルトレーニングは、顧客がモデルとデータを完全に所有し、品質を向上させるための反復作業を可能にします。
ユーザーは、タスクとベースモデルを選択し、トレーニングデータ（Deltaテーブルまたは.jsonlファイル）を提供するだけで、専門のタスク用に完全にファインチューニングされたモデルを所有できます。
Shutterstock ImageAI, Powered by Databricks: 本日、Shutterstockのパートナーは、Mosaic AIモデルトレーニングを使用して、Shutterstockの世界クラスの画像リポジトリで独自にトレーニングされた新しいテキストから画像へのモデルを発表しました。このモデルは、特定のビジネスニーズに合わせたカスタマイズされた高忠実度の信頼できる画像を生成します。
Mosaic AI Model Serving関数呼び出しをサポートするようになり、ユーザーはAI Playgroundで関数と基本モデルを素早く拡張できるようになりました。
汎用AIモデルはMMLUなどのベンチマークを最適化しますが、展開されたAIシステムは、サポートチケットの回答、クエリの生成、応答の提案など、特定のユーザータスクを解決するために設計されています。これらのシステムがうまく機能することを確認するに は、品質指標を定義し、品質シグナルを収集し、パフォーマンスを反復するための強力な評価フレームワークが重要です。本日、いくつかの新しい評価ツールを発表できることを嬉しく思います。
Mosaic AI Agent Evaluationは、開発者が素早く直感を形成できるようにAI支援メトリクスを提供します。
Mosaic AIエージェント評価により、Databricksプラットフォームの外部にいる関係者もモデルの出力を評価し、品質の反復に役立つ評価を提供できます。
Corningは、材料科学の会社であり、私たちのガラスおよびセラミック技術は多くの産業および科学的応用で使用されています。そのため、データの理解と活用は非常に重要です。Databricks Mosaic AI Agent Frameworkを使用して、米国特許庁のデータを含む数十万の文書をインデックス化するAIリサーチアシスタントを構築しました。高い精度で質問に応答するLLM搭載アシスタントが非常に重要であり、これにより研究者が作業中のタスクを見つけて進めることができました。これを実現するため に、Databricks Mosaic AI Agent Frameworkを使用して、米国特許庁のデータで拡張されたHi Hello Generative AIソリューションを構築しました。Databricks Data Intelligence Platformを活用することで、検索速度、応答品質、および精度を大幅に向上させました。— Denis Kamotsky, Principal Software Engineer, Corning
最先端の基礎モデルの爆発的な増加に伴い、私たちの顧客基盤は新しいモデルを迅速に採用しています。DBRXは発売から2週間以内に1000人の顧客が試験し、最近リリースされたLlama3モデルを数百人の顧客が試しています。多くの企業は、これらの新しいモデルを合理的な期間内にプラットフォームでサポートするのが難しく、プロンプト構造やクエリインターフェースの変更が実装を困難にします。さらに、企業が最新かつ最良のモデルへのアクセスを開放すると、人々は興奮して多くのことを構築し始め、ガバナンスの問題が急速に膨れ上がります。一般的なガバナンスの問題は、レート制限がヒットして運用アプリケーションに影響を与え、大規模なテーブルで生成AIモデルを実行するためのコストが急増し、PIIがサードパーティのモデルプロバイダーに送信されることで発生するデータ漏洩の懸念です。本日、AIゲートウェイのガバナンスのための新機能とモデルカタログのキュレーション機能を発表し、モデルの発見を可能にしま す。含まれる機能は次のとおりです：
Databricks Model Servingは、Databricks上または外部でホストされている複数のSaaSおよびオープンモデルへの安全なアクセスと管理を容易にすることで、私たちのAI駆動プロジェクトを加速しています。その集中アプローチは、セキュリティとコスト管理を簡素化し、データチームが革新に集中し、管理作業を減らすことを可能にします。— Greg Rokita, AVP, Technology at Edmunds.com
Databricks Mosaic AIプラットフォームは、中央集権化されたガバナンスと、トレーニング、追跡、評価、交換、およびデプロイを行うための統一されたインターフェースを備えた単一のプラットフォームから複合AIシステムを構築し、協力する力をチームに与えます。企業データを活用することで、一般知能からデータインテリジェンスへと進化し、より関連性の高いインサイトを迅速に得ることができます。
お客様が次にどんなイノベーションを生み出すのか、私たちはとても楽しみにしています！
