オープンソースAIの新標準：DatabricksでMeta Llama 3.1が利用可能に

DatabricksデータインテリジェンスプラットフォームでLlama 3.1モデルの提供を開始

アフマド・ビラル、Ankit Mathur、Hanlin Tang、Patrick Wendell（パトリック・ウェンデル）による投稿

July 23, 2024 in 生成 AI

Share this post

当社は Meta と提携して Databricks 上で Llama 3.1 シリーズのモデルをリリースし、強力なオープンモデルの標準をさらに前進させられることを嬉しく思います。Llama 3.1 を使用すると、企業は所有権やカスタマイズを犠牲にすることなく、最高品質の GenAI アプリを構築できるようになります。 Databricks では、イノベーションを加速し、オープン言語モデルを使用してより安全なシステムを構築するという Meta の取り組みに賛同しており、新しいモデルスイートを初日からエンタープライズのお客様に提供できることを嬉しく思っています。

Llama 3.1 を Databricks 内にネイティブに統合し、顧客がこれを使用してアプリケーションを簡単に構築できるようにしました。本日より、 Databricks のお客様は Mosaic AI を使用して Llama 3.1 モデルを提供および微調整し、それらを Retrieval Augmented Generation (RAG) およびエージェントシステムにシームレスに接続し、ユースケース用の合成データを簡単に生成し、スケーラブルな評価にモデルを活用できるようになります。これらの機能により、企業は最高品質のオープンソースモデルを使用して独自の組織のデータを最大限に活用し、本番運用規模の GenAI アプリケーションを構築できます。

「オープンソースの AI が業界標準となり、前進への道となると信じています。 Llama3.1 について Databricks と提携することにより、合成データ生成や短期バッチ推論などの高度な機能がどの開発者にとってもアクセスしやすくなります。これを使って人々が何を作るのか、楽しみにしています」
— マーク・ザッカーバーグ、Meta創業者兼CEO

今すぐ Databricks で最高品質のオープンモデルの使用を始めてください。 Mosaic AI Playground にアクセスして、Meta Llama 3.1 やその他の基盤モデルをワークスペースから直接試してみてください。詳細については、このガイドを参照してください。

Llama 3.1 モデルの新機能は何ですか?

Llama 3.1 モデルはこれまでで最も高性能なオープンモデルであり、次のような多くの新機能が導入されています。

Meta Llama 3.1-405B-Instruct は、現在世界最高品質のオープンモデルです。最高の AI モデルに匹敵する比類のない推論能力、操縦性、および一般知識を備えています。これらの機能により、これまでオープンモデルでは不可能だった複雑なアプリケーションの構築が可能になります。
既存の 8B および 70B モデルの品質が向上しました。これらのモデルはすでに 1,000 社を超える Databricks の顧客によって使用されています。Databricks 上で新しいモデルに簡単に移行でき、変更を加えることなくすぐに品質向上のメリットを享受できます。
コンテキストの長さが 128k トークンに拡張され、大規模なデータセットの分析が可能になり、より関連性の高いコンテキストにアクセスすることでハルシネーションが軽減され、RAG アプリケーションが改善されます。
8 つの言語をサポートしているため、企業はより幅広い顧客ベースに効果的にリーチし、関与することができます。
ツールの使用と関数の呼び出しが改善され、高度なタスクを自動化し、複雑なクエリに回答できる複雑なマルチステップのエージェントワークフローを作成できるようになりました。
アップグレードされた LlamaGuard モデルと Safety Models により、エンタープライズユースケース向けの Compound AI システムの安全で責任ある導入が可能になります。

Meta Llama 3.1 モデルコレクション

Meta Llama 3.1-8B-Instruct: 優れた小型モデルで、比類のないコストで高速応答を提供します。メタデータの抽出や要約、高速な顧客インタラクションアプリケーションの構築などのドキュメント理解タスクに最適です。より狭いエンタープライズタスクのクローズドモデルの品質を上回るように微調整できます。

Meta Llama 3.1-70B-Instruct: このモデルはインテリジェンスとスピードのバランスが取れており、幅広いエンタープライズワークロードに適しています。チャットボット、仮想アシスタント、エージェントワークフロー、コード生成などのユースケースに優れています。

Meta Llama 3.1-405B-Instruct: 最高品質のオープンソースモデルで、一般知識、数学、ツールの使用、多言語翻訳において複雑な推論と高い精度を必要とする高度なユースケースに最適です。高度なマルチステップ推論ワークフロー、コンテンツ生成、研究レビュー、ブレーンストーミング、高度なデータ分析などのユースケースで優れています。品質の判断基準として使用したり、小規模な LLM を改善するための合成データを生成するために使用することもできます。

Databricks Mosaic AI で Llama 3.1 を使って開発する

Llama 3.1とその他の基盤モデルの体験

Llama 3.1 ファミリーのモデルが Unity Catalog 内の system.ai カタログで利用できるようになりました。他の基盤モデルで動作する同じ統合 API と SDK を使用して、Mosaic AI Model Servingで簡単にアクセスできます。統合インターフェースにより、 Llama 3.1 コレクション内のモデルを簡単に実験、切り替え、デプロイし、任意のプロバイダーの他の基盤モデルと比較できます。この柔軟性により、アプリケーションの品質、レイテンシ、コストの要件を満たす最適なモデルを選択できます。これらのモデルは、 Azure Databricks だけでなく、 Databricks on AWS でも利用できます。

オープンソース AI の新しい標準: Databricks の Meta Llama 3.1

独自のデータを使用して Llama 3.1 を拡張し、品質を向上

Databricks を利用する企業はすでに Mosaic AI モデルトレーニングを使用して、独自のデータで Llama モデルをカスタマイズし、特定のビジネスコンテキストとスキルに特化して、より高品質のモデルを構築しています。顧客は、拡張されたコンテキスト長と 8B および 70B モデルの基本品質の向上を利用して新しいモデルをカスタマイズすることで、アプリケーション全体の品質を向上させ、新しいユースケースを開拓できるようになりました。

モデルトレーニングでは、Llama 3.1 405B もサポートされるようになり、企業は主要な AI モデルと同等の推論と機能を備えたオープンモデルをカスタマイズできるようになりました。これらのアップグレードは、容量がオンラインになると、リージョン全体に展開されます。

Llama 3.1 でインテリジェントエージェントと RAG アプリを展開

RAG アプリケーションとエージェントは、当社のプラットフォーム上で最も人気のある GenAI アプリケーションであり、Meta Llama 3.1 の新しいツール使用機能に期待しています。

新しく導入されたMosaic AI Agent Framework と Evaluationにより、企業は Meta Llama 3.1 を使用して最高品質の AI システムを構築し、 Mosaic AI Vector Search を使用して独自のデータでシステムを拡張できます。当社は、データプラットフォームに緊密に統合された唯一の機械学習ソリューションを提供しており、すべての下流アプリケーションが単一のガバナンスレイヤーである Unity Catalog を介して安全に統制および管理されることを保証します。

さらに、顧客はすでに関数呼び出しに Llama モデルを使用でき、新しいアップデートによりこれらのワークフローの品質がさらに向上します。

これらの機能を組み合わせることで、開発者はカスタムエージェントを作成し、新しいエージェントの動作を単一のプラットフォームで探索し、より広範なユースケースを解き放つことができます。

合成データ生成によるモデルのトレーニングと評価の高速化

Llama 3.1 の許容ライセンスと Llama 3.1-405B-Instruct モデルの優れた品質により、企業は初めて、高品質の合成データでデータフライホイールを強化できるようになりました。つまり、モデルトレーニングを使用してモデルをカスタマイズするときに、データセットのサンプルをより大きなモデルに自動的に表示し、同様のデータを生成するように要求できます。

Databricks は、基盤モデル API および基盤モデルトレーニングサービスとの統合により、このワークフローを容易にします。これにより、データインテリジェンスプラットフォームの安全な境界内で Unity Catalog データセットをすべて拡張できます。これにより、カスタマイズの品質が変わり、エンタープライズの GenAI アプリケーションが強化されると考えています。

顧客は Databricks とオープンモデルで革新を実現

Databricks の多くの顧客はすでに Llama 3 モデルを活用して GenAI イニシアチブを推進しています。私たちは皆、Llama 3.1 で何が行われるのか楽しみにしています。

「Databricksでは、LLM を使用して 1 日あたり 100 万件以上のファイルを処理し、物件記録から取引データとエンティティデータを抽出することで、面倒な手作業を自動化できました。Meta Llama3 8b をファインチューニングすることで精度の目標を超え、Mosaic AI Model Serving を使用することで、大規模で高価な GPU フリートを管理する必要なく、この操作を大幅に拡張できました」 - Prabhu Narsina 氏、VP Data and AI、First American
「Databricks のおかげで、Llama モデルをすばやく微調整して安全に展開し、カウンセラーのトレーニング用の会話シミュレーターや応答品質を維持するためのフェーズ分類器など、複数の GenAI ユースケースを構築できました。これらのイノベーションにより、リアルタイムの危機介入が改善され、より迅速に拡張し、危機に瀕している人々に重要なメンタルヘルスサポートを提供できるようになりました」 - Matthew Vanderzee 氏、Crisis Text Line の CTO
「Databricks の統合データおよび AI プラットフォームと Meta Llama 3 などのオープンモデルにより、サイロが排除され、導入が簡素化され、GenAI システムを本番運用に 20 倍速く導入できるようになりました。これにより、GenAI を製品面全体でより深く統合できるようになり、製品、運用、全体的な効率が向上しました」 - Ian Cadieu 氏、CTO、Altana
「Databricks で、記録的な速さでアイデアを本番運用に移すことができます。 Llama のような小型の最先端のオープンモデルを使用し、データでカスタマイズすることで、高品質でコスト効率の高い GenAI ソリューションを作成しました。驚くべきことに、これはたった 1 人によって開発されたもので、すでに社内チームの生産性が向上しています」 - Thibault Camper 氏、シニアデータサイエンティスト、Locala
「Mosaic AI と Llama 3 のような最先端のオープンモデルにより、独自のデータとビジネスルールに基づいてカスタムモデルを作成し、安全に展開できるようになりました。これにより、新しい GenAI 機能を構築し、タスクの 63% を自動化し、開発チームが手動プロセスではなくイノベーションに集中できるようになりました」 - Orizon のデータおよびアナリティクス責任者、Guilherme Guisse 氏