Adaptive Instructed-Retriever：2倍の低レイテンシでフロンティア品質の検索を実現

効果的なエンタープライズデータエージェントには、正確かつ高速な検索が必要です。今年、Databricksは Instructed-Retriever-1をリリースしました。これは、エンタープライズデータのスキーマやカスタム指示を組み込みながら、並列テスト時スケーリング（parallel test-time scaling）を使用して低レイテンシで検索精度を向上できる検索モデルです。このシングルステップ検索アプローチは、ユーザーリクエストの大部分に対して効果的に機能します。しかし、より複雑なマルチホップの質問では、モデルが段階的に証拠を収集し、複数ステップにわたってクエリを洗練させるシーケンシャル検索（順次検索）が依然として有効です。ただし、これには追加のレイテンシというコストが伴います。 そこで今回、厳格なコストとレイテンシの保証を維持しながら、並列検索のスピードとシーケンシャル検索のパフォーマンスを組み合わせた Adaptive Instructed-Retrieverを導入します。目標はシンプルです。 追加の検索ステップは、それが本当に役立つ場合にのみ実行するということです。これは、 DatabricksのデータエージェントであるGenie Codeが直面しているものと同じ、検索効率の課題です。つまり、大規模で変化し続けるワークスペースの中から、総当たり的な探索に無駄なステップを費やすことなく、適切なテーブル、ノートブック、ダッシュボード、ドキュメントを見つけ出す必要があります。Adaptive Instructed-Retrieverはこの検索レイヤー向けに設計されており、証拠が明確な場合は迅速に結果を返し、より難しいリクエストで必要な場合にのみシーケンシャル検索を使用します。本ブログ記事で示すように、トレーニングされたモデルは、主要なサードパーティ製モデルと同等の品質を2倍低いレイテンシで実現し、Databricksの検索ベンチマークにおいてシングルステップ検索を大幅に上回る成果を上げています。 Adaptive Instructed-Retrieverを構築するために、シーケンシャルステップの数に固定の上限を設け、各ユーザーリクエストに必要な計算量を適応的に判断するようにエージェントをトレーニングします。十分な証拠がすでに見つかっている場合、エージェントは早期に終了して関連する証拠を返します。追加の検索によって検索品質が向上する可能性が高い場合は、ステップ制限まで検索を継続できます。 Adaptive Instructed-Retrieverのトレーニング 検索品質とシーケンシャルスケーリングによるレイテンシコストのバランスを改善するため、Databricksは Adaptive Instructed-Retrieverをトレーニングしました。これは、並列シングルステップ検索とシーケンシャル検索の両方をサポートし、主要なサードパーティ製モデルよりも大幅に低いレイテンシで動作する小規模なカスタムモデルです。このモデルを、独自のエンタープライズ検索ベンチマークと公開検索ベンチマーク（マルチホップ推論が有効なタスクを含む）を組み合わせた環境で評価します。これらのベンチマーク全体において、Adaptive Instructed-Retrieverは、主要なサードパーティ製モデルやオープンソースモデルに匹敵するパフォーマンスを達成しつつ、2倍低いレイテンシを実現しています。 トレーニングデータを準備するために、合成エンタープライズ検索環境と、 Instructed-Retriever-1に類似し、 KARLレポートで公開されているエージェント型データ合成プロセスを利用しています。Instructed-Retriever-1の既存のトレーニングデータを再利用して、高速な並列シングルステップ検索を実行するモデルの能力を維持し、さらに、複数のエージェント型検索ステップからより多くの恩恵を受ける合成マルチホップ質問を導入しています。 ベースモデルから始めて、オンライン強化学習（ORL）を使用し、最終的なパフォーマンスが向上する可能性が高い場合にのみ追加の検索ステップを実行するようにモデルに学習させます。具体的には、CISPO（Clipped...