業界をリードするAIモデルを用いたユニバーサルスピーチインテリジェンスの構築
私たちはオンラインのドキュメンテーションに従って、数時間で運用を開始し、ジョブを実行し始めました。私たちは一度も問題に直面していません。 – クレメン・シモニック、創設者/CEO Soniox は、経験豊富なAI研究者によって2020年に設立され、音声認識のための教師なし学習の先駆者です。2022年には、最高レベルの精度を持つ音声認識AIとして初の製品をリリースしました。その対象となるのは、 主要8言語 ：ドイツ語、ポルトガル語、イタリア語、フランス語、スペイン語、中国語、韓国語、そして英語です。各外国語AIモデルはバイリンガルで、その言語と英語を理解することができ、ビジネスの使用事例をより効果的にサポートします。 Sonioxチームは、カスタムAIモデルのトレーニングに精通していました。Databricksとの協力前に、彼らはすでに一つの多言語大規模言語モデル（LLM）を訓練していました。 Soniox 7B それでも彼らは、次の大規模なマルチモーダルLLMのトレーニングをサポートするためにDatabricks
AIをよりアクセシブルに：Databricks上のMeta Llama 3.3で最大80％のコスト削減！
企業が高品質なAIアプリを提供するエージェントシステムを構築するにつれて、私たちはお客様に最高のコスト効率を提供するための最適化を続けています。Meta Llama 3.3モデルが Databricks Data Intelligence Platform で利用可能になったことを発表することを嬉しく思います。また、Mosaic AIの Model Serving の価格と効率性に大幅な更新が加えられました。これらの更新により、推論コストが最大80％削減され、AIエージェントを構築したり、バッチLLM処理を行っている企業にとって、以前よりも大幅にコスト効率が向上します。 コスト削減80%： 新しいLlama 3.3モデルと価格の引き下げにより、大幅なコスト削減を実現します。 推論速度の向上： レスポンスが40%速くなり、バッチ処理時間が短縮されることで、より良い顧客体験と迅速な洞察を実現します。 新しいMeta Llama 3.3モデルへのアクセス： Metaの最新技術を活用して、品質とパフォーマンスを向上させま
Databricks Generative AIパートナーアクセラレータとRAG PoC(Proof of Concepts: 実証実験) の紹介
今日の急速に進化する技術の風景では、生成型人工知能（GenAI）が組織の働き方を革新し、ビジネスに新たな可能性を開いています。最近の エコノミストの報告書 によると、1,100人の技術経営者、データエンジニア、データサイエンティスト、アーキテクトを対象に調査した結果、彼らのGenAIアプリケーションが製品化準備が整っていると考えているのはわずか37％です。主な課題は、サイロ、レイテンシ、セキュリティなどのデータインフラストラクチャの問題であり、そのため、彼らのアプリケーションはビジネス特有の、正確で、よく管理された出力を提供することができません。 これらの課題に対処するため、組織は単一のモデルを展開することを超えて、包括的なエージェントシステムを展開しています。 それが私たちが Databricks Data Intelligence Platform を基盤にしたGenAIパートナーアクセラレーターの発表を楽しみにしている理由です。これは、組織がAIエージェントシステムを展開するのを助けます。これらのアクセラレ
ファインチューニングされたラマモデルに対するバッチ推論とMosaic AIモデル提供
序章 本番環境向け、スケーラブルでフォールトトレラントな生成型AIソリューションを構築するには、信頼性の高いLLMの利用可能性が必要です。あなたのLLMエンドポイントは、専用の計算をあなたのワークロードのために持つことで需要を満たす準備ができている必要があります。必要に応じて容量をスケーリングし、一貫したレイテンシを持ち、すべてのインタラクションをログに記録する能力、そして予測可能な価格設定を持つことが求められます。このニーズを満たすために、Databricksは プロビジョニングされたスループットエンドポイント を、各種の高性能基盤モデル（全ての主要なラマモデル、DBRX、ミストラルなど）で提供しています。しかし、最新で最も性能の高い微調整されたLlama 3.1と3.2のバリアントを提供することはどうでしょうか？NVIDIAの Nemotron 70Bモデル は、Llama 3.1の微調整されたバリアントで、多様なベンチマークで競争力のあるパフォーマンスを示しています。Databricksの最近の革新により、
AIエージェント評価が進化！新たな合成データ機能で効率アップ
私たちのお客様は、汎用モデルを用いた大規模プロンプトから、ROIを向上させるために必要な品質を達成する専門的なエージェントシステムへと移行し続けています。今年初め、私たちは Mosaic AI Agent Framework と Agent Evaluation をリリースしました。これらは現在、多くの企業で、企業データを活用した複雑な推論や、サポートチケットの作成、メール対応などのタスクを実行するエージェントシステムの構築に利用されています。 本日、Agent Evaluationにおける大幅な強化として、合成データ生成APIを発表します。合成データ生成とは、実世界のデータを模倣した人工的なデータセットを作成することを指しますが、これは「架空の情報」を作ることではありません。私たちのAPIは、顧客独自のデータを活用し、それに基づいて評価セットを生成します。この評価セットは、顧客のユースケースに特化したものであり、ソフトウェアエンジニアリングにおけるテストスイートや、従来の機械学習における検証データのような役割を
時系列データの予測力を解き放て！
時系列予測は、将来のトレンド、需要、ユーザー行動を予測することで、データに基づく意思決定を目指す企業にとって極めて重要です。たとえば、小売業界のDatabricks顧客は、これらのモデルを活用して、季節や地域ごとの製品需要を予測し、在庫管理を最適化しています。同様に、エネルギー企業は消費パターンを予測して供給と需要のバランスを効率的に保ち、コスト削減や電力網の安定性を確保しています。 Databricksの顧客は、クラスタの管理やデータおよびモデルガバナンスの複雑さに煩わされることなく、Data Intelligence Platformを活用して洞察を提供することに集中したいと考えています。また、最高品質の予測を実現するために、最先端のモデルアーキテクチャへのアクセスを求めています。 これらの課題に対応するため、Mosaic AIモデルトレーニングに新機能として 時系列予測 を導入することを発表できることを嬉しく思います。この新しいAutoML製品は、柔軟性、ガバナンス、パフォーマンスを強化し、企業が時系列デー
EVPassport: Databricksとともに未来への充電完了！
2020年に設立されたEVPassportは、電気自動車の充電体験を変革することを目指しています。マルチファミリーレジデンス、ホスピタリティ、小売、職場、商業駐車環境に特化したEVPassportは、包括的なInfrastructure-as-a-Serviceモデルを提供します。このオールインクルーシブなアプローチにより、クライアントはEV充電ステーションの展開と管理に必要なすべてを受け取ることができます：ハードウェア、ソフトウェア、インストール、メンテナンス、サポート。 データ依存によるEV充電器エコシステムの進化 私たちEVPassportの業界の性質を考えると、私たちは充電器の利用に非常に集中しています。業界で最も過大評価されている指標の一つは、充電器がどれだけ使用されているかということです。しかし、これは私たちのビジネスにとっても重要な要素であり、それが私たちがエネルギーに基づいた利用を基本にしている理由です。例えば、11キロワットのユニットが1時間に11キロワット時を24時間365日提供するこ とが何を
Mosaic AIエージェントフレームワークで自律AIアシスタントを構築する
大規模な言語モデルは、高度な自然言語処理を活用して複雑なタスクを実行することで、私たちがテクノロジーと交流する方法を革新しています。近年では、最先端のLLMモデルが幅広い革新的なアプリケーションを可能にしてきました。昨年は、RAG（Retrieval Augment generation）に向けたシフトが見られ、ユーザーは自組織のデータ（ベクトル埋め込みを通じて）をLLMに供給することで、対話型AIチャットボットを作成しました。 しかし、まだ表面をかすっているだけです。 強力ではありますが、「Retrieval Augment Generation」は私たちのアプリケーションを静的な知識の取得に制限します。 内部データからの質問にだけ答えるのではなく、 行動 も最小限の人間の介入で取る典型的なカスタマーサービスエージェントを想像してみてください。LLMを使用すれば、ユーザーのクエリに対して単に応答するだけでなく、行動する完全自動化された意思決定アプリケーションを作成することができます。可能性は無限大で、内部データ
Providence Health：Databricks Mosaic AIを使用したML/AIプロジェクトのスケーリング
Providence Healthの広範なネットワーク は50以上の病院と複数の州にまたがるその他の施設を包含しており、特定の部門内での患者数と日々の患者数を予測することは多くの課題を伴います。この情報は、短期および長期のスタッフニーズ、患者の転送、一般的な運用認識についての情報提供を行うために重要です。Databricksの採用初期段階では、Providenceは新しいリクエストを迅速に進め、探索を支援し、多くの場合初期の予測を提供するシンプルな基準患者数モデルを作成することを目指しました。また、この患者数をほぼリアルタイムで数千の部門をサポートするようにスケーリングするには一部の作業が必要だと認識しました。 私たちは、 Databricks Mosaic AI ツールの実装を開始しました Databricks AutoML を使用しています。スケジュールされたワークフローが実行されるたびに、数行のコードから自動的に予測を実行する能力を高く評価しました。AutoMLは詳細なモデル設定を必要とせず、データを初めて
バッチおよびエージェントワークフローのための構造化出力の紹介
多くのAIのユースケースは、非構造化入力を構造化データに変換することに依存しています。開発者はますます、LLMを利用して生のドキュメントから構造化データを抽出し、APIソースからデータを取得するアシスタントを構築し、行動を起こすエージェントを作成しています。これらの各ユースケースでは、モデルが構造化された形式に従った出力を生成する必要があります。 今日、私たちは Structured Outputs をMosaic AI Model Servingに導入することを発表します。これは、提供されたJSONスキーマにオプションで準拠できるJSONオブジェクトを生成するための統一されたAPIです。この新機能は、LlamaのようなオープンなLLM、ファインチューニングされたモデル、OpenAIのGPT-4oのような外部LLMを含むすべてのタイプのモデルをサポートし、特定のユースケースに最適なモデルを選択する柔軟性を提供します。 Structured Outputs は、新たに導入された response_format とと