業界をリードするAIモデルを用いたユニバーサルスピーチインテリジェンスの構築
私たちはオンラインのドキュメンテーションに従って、数時間で運用を開始し、ジョブを実行し始めました。私たちは一度も問題に直面していません。 – クレメン・シモニック、創設者/CEO Soniox は、経験豊富なAI研究者によって2020年に設立され、音声認識のための教師なし学習の先駆者です。2022年には、最高レベルの精度を持つ音声認識AIとして初の製品をリリースしました。その対象となるのは、 主要8言語 :ドイツ語、ポルトガル語、イタリア語、フランス語、スペイン語、中国語、韓国語、そして英語です。各外国語AIモデルはバイリンガルで、その言語と英語を理解することができ、ビジネスの使用事例をより効果的にサポートします。 Sonioxチームは、カスタムAIモデルのトレーニングに精通していました。Databricksとの協力前に、彼らはすでに一つの多言語大規模言語モデル(LLM)を訓練していました。 Soniox 7B それでも彼らは、次の大規模なマルチモーダルLLMのトレーニングをサポートするためにDatabricks
AIをよりアクセシブルに:Databricks上のMeta Llama 3.3で最大80%のコスト削減!
企業が高品質なAIアプリを提供するエージェントシステムを構築するにつれて、私たちはお客様に最高のコスト効率を提供するための最適化を続けています。Meta Llama 3.3モデルが Databricks Data Intelligence Platform で利用可能になったことを発表することを嬉しく思います。また、Mosaic AIの Model Serving の価格と効率性に大幅な更新が加えられました。これらの更新により、推論コストが最大80%削減され、AIエージェントを構築したり、バッチLLM処理を行っている企業にとって、以前よりも大幅にコスト効率が向上します。 コスト削減80%: 新しいLlama 3.3モデルと価格の引き下げにより、大幅なコスト削減を実現します。 推論速度の向上: レスポンスが40%速くなり、バッチ処理時間が短縮されることで、より良い顧客体験と迅速な洞察を実現します。 新しいMeta Llama 3.3モデルへのアクセス: Metaの最新技術を活用して、品質とパフォーマンスを向上させま
Databricks Generative AIパートナーアクセラレータとRAG PoC(Proof of Concepts: 実証実験) の紹介
今日の急速に進化する技術の風景では、生成型人工知能(GenAI)が組織の働き方を革新し、ビジネスに新たな可能性を開いています。最近の エコノミストの報告書 によると、1,100人の技術経営者、データエンジニア、データサイエンティスト、アーキテクトを対象に調査した結果、彼らのGenAIアプリケーションが製品化準備が整っていると考えているのはわずか37%です。主な課題は、サイロ、レイテンシ、セキュリティなどのデータインフラストラクチャの問題であり、そのため、彼らのアプリケーションはビジネス特有の、正確で、よく管理された出力を提供することができません。 これらの課題に対処するため、組織は単一のモデルを展開することを超えて、包括的なエージェントシステムを展開しています。 それが私たちが Databricks Data Intelligence Platform を基盤にしたGenAIパートナーアクセラレーターの発表を楽しみにしている理由です。これは、組織がAIエージェントシステムを展開するのを助けます。これらのアクセラレ
ファインチューニングされたラマモデルに対するバッチ推論とMosaic AIモデル提供
序章 本番環境向け、スケーラブルでフォールトトレラントな生成型AIソリューションを構築するには、信頼性の高いLLMの利用可能性が必要です。あなたのLLMエンドポイントは、専用の計算をあなたのワークロードのために持つことで需要を満たす準備ができている必要があります。必要に応じて容量をスケーリングし、一貫したレイテンシを持ち、すべてのインタラクションをログに記録する能力、そして予測可能な価格設定を持つことが求められます。このニーズを満たすために、Databricksは プロビジョニングされたスループットエンドポイント を、各種の高性能基盤モデル(全ての主要なラマモデル、DBRX、ミストラルなど)で提供しています。しかし、最新で最も性能の高い微調整されたLlama 3.1と3.2のバリアントを提供することはどうでしょうか?NVIDIAの Nemotron 70Bモデル は、Llama 3.1の微調整されたバリアントで、多様なベンチマークで競争力のあるパフォーマンスを示しています。Databricksの最近の革新により、
Aimpoint Digital: AIで旅のプラン作りがもっとスマートに!
インスピレーション 休暇を楽しむことは楽しい経験ですが、旅行の計画を立てるのはほとんどの人にとって時間と労力がかかります。訪れる場所は無数にあり、食事をするレストランは数え切れないほどあり、レビューを見て決定を下すことは終わりがありません。 Expediaによる最近の調査結果によれば 、旅行者は旅行の調査と計画に5時間以上を費やしています。人々は旅行のアクティビティを最終決定する前に最大で約270のウェブページを訪れ、このプロセスは旅行の45日前から始まることもあります。選択肢が多すぎるため、旅行の計画は一部の人々にとって圧倒的なものになることがあります。GenAIを活用してこのプロセスを効率化し、30秒以内に行程を作成することは可能でしょうか?旅行者が自分の行程に活動をカスタマイズして調整するパーソナルエージェントを持つことができたらどうでしょうか?このブログでは、旅行の行程を作成するためにDatabricks Data Intelligence Platformと共に開発したAIエージェントシステムの詳細につ
AIエージェント評価が進化!新たな合成データ機能で効率アップ
私たちのお客様は、汎用モデルを用いた大規模プロンプトから、ROIを向上させるために必要な品質を達成する専門的なエージェントシステムへと移行し続けています。今年初め、私たちは Mosaic AI Agent Framework と Agent Evaluation をリリースしました。これらは現在、多くの企業で、企業データを活用した複雑な推論や、サポートチケットの作成、メール対応などのタスクを実行するエージェントシステムの構築に利用されています。 本日、Agent Evaluationにおける大幅な強化として、合成データ生成APIを発表します。合成データ生成とは、実世界のデータを模倣した人工的なデータセットを作成することを指しますが、これは「架空の情報」を作ることではありません。私たちのAPIは、顧客独自のデータを活用し、それに基づいて評価セットを生成します。この評価セットは、顧客のユースケースに特化したものであり、ソフトウェアエンジニアリングにおけるテストスイートや、従来の機械学習における検証データのような役割を
EVPassport: Databricksとともに未来への充電完了!
2020年に設立されたEVPassportは、電気自動車の充電体験を変革することを目指しています。マルチファミリーレジデンス、ホスピタリティ、小売、職場、商業駐車環境に特化したEVPassportは、包括的 なInfrastructure-as-a-Serviceモデルを提供します。このオールインクルーシブなアプローチにより、クライアントはEV充電ステーションの展開と管理に必要なすべてを受け取ることができます:ハードウェア、ソフトウェア、インストール、メンテナンス、サポート。 データ依存によるEV充電器エコシステムの進化 私たちEVPassportの業界の性質を考えると、私たちは充電器の利用に非常に集中しています。業界で最も過大評価されている指標の一つは、充電器がどれだけ使用されているかということです。しかし、これは私たちのビジネスにとっても重要な要素であり、それが私たちがエネルギーに基づいた利用を基本にしている理由です。例えば、11キロワットのユニットが1時間に11キロワット時を24時間365日提供することが何を
Mosaic AIエージェントフレームワークで自律AIアシスタントを構築する
大規模な言語モデルは、高度な自然言語処理を活用して複雑なタスクを実行することで、私たちがテクノロジーと交流する方法を革新しています。近年では、最先端のLLMモデルが幅広い革新的なアプリケーションを可能にしてきました。昨年は、RAG(Retrieval Augment generation)に向けたシフトが見られ、ユーザーは自組織のデータ(ベクトル埋め込みを通じて)をLLMに供給することで、対話型AIチャットボットを作成しました。 しかし、まだ表面をかすっているだけです。 強力ではありますが、「Retrieval Augment Generation」は私たちのアプリケーションを静的な知識の取得に制限します。 内部データからの質問にだけ答えるのではなく、 行動 も最小限の人間の介入で取る典型的なカスタマーサービスエージェントを想像してみてください。LLMを使用すれば、ユーザーのクエリに対して単に応答するだけでなく、行動する完全自動化された意思決定アプリケーションを作成することができます。可能性は無限大で、内部データ
TealiumとDatabricks:リアルタイムの洞察とAI駆動の顧客体験を提供
TealiumがDatabricksを使用して、リアルタイムのストリーミングCustomer Data Platform(CDP)の要素をどのように動かしているかを学びましょう。このプラットフォームは、クライアントに包括的な顧客洞察を提供し、パーソナライズされたマーケティングと顧客エンゲージメントを可能にします。Databricks Mosaic AIを使用すると、Tealiumは予測的なMLモデルの構築から最新のGenAIアプリのデプロイまで、AIとMLソリューションを安全に構築、デプロイ、評価、管理することができます。