Mosaic AI Agent Framework および Agent Evaluation の発表 July 2, 2024 エリック・ピーター、アキル・グプタ、マニ・パルケ、アルキス・ポリゾティス、チェネン・リャン、マヘー シュワラン・ヴェンカタチャラム、マイケル・カービン、ニール・タービット による投稿 in 生成 AI Databricks は 、Data + AI Summit 2024 で、 生成 AI クックブック とともに、Mosaic AI Agent Framework および Agent Evaluation の パブリック プレビュー を 発表...
Ray on Databricksの一般提供開始のお知らせApril 16, 2024 スティーブン・オファー、ウェイチェン・シュー、ベン・ウィルソン、マヘーシュワラン・ヴェンカタチャラム、プネート・ジャイン、ニティン・ワグ、ハワード・ウー による投稿 in エンジニアリングのブログ 昨年、Rayサポートの パブリックプレビュー をリリースして以来、何百ものDatabricksのお客様が、マルチモデル階層予測やLLMファインチューニング、強化学習など、様々なユースケースに使用してきました 。 本日、DatabricksにおけるRayサポートの一般提供を発表できることを嬉しく思います。 Rayは、バージョン15.0以降、機械学習ランタイムの一部として含まれるようになり、Databricksでファーストクラスとして提供されるようになりました。 お客様は、追加インストールなしで Rayクラスターを開始することができ、Databricksが提供する統合された製品群(Unity Catalog、Delta Lake、MLflow、Apache Sparkなど)の中で、この強力なフレームワークの使用を開始することができます。 調和のとれた統合:Databricks上のRayとSpark Ray on Databricksの一般提供により、Databricks上で分散ML AIワークロードを実行する選択肢がオフラインLLM評価:Databricks上での段階的なGenAIアプリケーション評価December 13, 2023 アベ・オモログベ、リャン・チャン、スニッシュ・シェス、コーリー・ズマール、マヘーシュワラン・ヴェンカタチャラム による投稿 in エンジニアリングのブログ 背景 RAG(Retrieval-Augmented Generation)がAIを駆使したアプリケーションとの関わり方に革命をもたらす時代において、これらのシステムの効率性と有効性を確保することは、かつてないほど不可欠なことである。DatabricksとMLflowはこの革新の最前線にあり、GenAIアプリケーションの重要な評価のための合理化されたソリューションを提供している。 このブログポストでは、Databricks Data Intelligence Platformを活用いて、GenAIアプリケーションの3つのコアコンポーネント(プロンプト、検索システム、Foundation LLM)の品質を強化および評価し、GenAIアプリケーションの継続的な品質を確保するためのするためにシンプルで効果的なプロセスを紹介する。 ユースケース MLflowのドキュメントの質問に回答し、その結果を評価するQAチャットボットを作成する。 Databricksで外部モデルを設定する Databricksの モデルサービング
オフラインLLM評価:Databricks上での段階的なGenAIアプリケーション評価December 13, 2023 アベ・オモログベ、リャン・チャン、スニッシュ・シェス、コーリー・ズマール、マヘーシュワラン・ヴェンカタチャラム による投稿 in エンジニアリングのブログ 背景 RAG(Retrieval-Augmented Generation)がAIを駆使したアプリケーションとの関わり方に革命をもたらす時代において、これらのシステムの効率性と有効性を確保することは、かつてないほど不可欠なことである。DatabricksとMLflowはこの革新の最前線にあり、GenAIアプリケーションの重要な評価のための合理化されたソリューションを提供している。 このブログポストでは、Databricks Data Intelligence Platformを活用いて、GenAIアプリケーションの3つのコアコンポーネント(プロンプト、検索システム、Foundation LLM)の品質を強化および評価し、GenAIアプリケーションの継続的な品質を確保するためのするためにシンプルで効果的なプロセスを紹介する。 ユースケース MLflowのドキュメントの質問に回答し、その結果を評価するQAチャットボットを作成する。 Databricksで外部モデルを設定する Databricksの モデルサービング