9月10日、Search Engine Journalが「Google DeepMind Develops New AI Search Ranking Model」と題した記事を公開した。Google DeepMindらの研究者が提案した「自己回帰ランキング(ARR)」は、固定サイズのモデルで理論上任意の数のドキュメントをランク付けできるという特性を持つ。これは従来の2段階方式が抱えるスケール依存の制約を根本から回避する設計であり、検索ランキングアーキテクチャの刷新につながりうる提案として注目される。
現行の検索ランキングは「2段階方式」
検索エンジンのバックエンドランキングは、現在一般的にDual Encoder(DE)とCross Encoder(CE)の2段階構成で動いている。
- Dual Encoder(DE): クエリとドキュメントをそれぞれベクトルに変換し、候補ドキュメントを高速に絞り込む。計算コストが低く、大規模な検索に適している。ただし、精度には限界がある。
- Cross Encoder(CE): DEが絞り込んだ候補を詳細にスコアリングし、最終的なランキングを決定する。精度は高いが、計算コストが大きいため、全ドキュメントへの適用は現実的でなく、第2段階の再ランク付けにのみ使われる。
この構成には構造的な制約がある。DEはランク付けするドキュメント数が増えるほど、必要なベクトルの次元数も線形に増大する。つまり、コーパスが大きくなるほど表現力の限界に近づく。
ARR:単一LLMによる検索ランキングへの置き換え提案
Google DeepMind、マサチューセッツ大学アマースト校、テキサス大学オースティン校の研究者らが、この2段階方式をAutoregressive Ranking(ARR)という単一のLLMベースのシステムで置き換えることを提案した。論文タイトルは「Autoregressive Ranking: Bridging the Gap Between Dual and Cross Encoders」(PDF)。
ARRの理論的な強みは明確だ。研究者らは以下のように証明している。
「DがDE(Dual Encoder)がk個のドキュメントを任意の順序でランク付けするには、埋め込み次元をkに比例して増やす必要がある。一方、ARRモデルは一定の隠れ次元で理論上、任意の数のドキュメントをランク付け可能だ」
要するに、ARRはコーパスのスケールに依存せず、固定サイズのモデルで機能するという理論上の優位性を持つ。DEとCEの「二者択一」だったトレードオフ(速度か精度か)を、単一モデルで乗り越えようとする設計思想がARRの本質といえる。
訓練手法「SToICaL」
ARRを機能させるための学習手法として、研究者らはSToICaL(Simple Token-Item Calibrated Loss)を開発した。LLMにランキングタスクを学習させる際、トークン単位の確率分布とドキュメント単位の関連性スコアを同時に最適化する点が特徴だ。
この手法はLLMに「どのドキュメントを上位に持ってくるべきか」を2つの方法で教える。
- アイテムレベルの重み付け: 上位にランクされるべきドキュメントは確率を高め、下位のものは低くする
- プレフィックスツリーのマージン化: トークン選択の確率を、Ground Truthのランク順に沿って分配する
これにより、無関係なドキュメントを関連ドキュメントより下に抑える能力が向上する。従来のランキングロス設計では難しかった「上位の精度」と「全体の順序精度」の両立を目指した損失関数の工夫といえる。
テスト結果:CEに匹敵、ただし課題も
研究者らはWordNetとESCIデータセットでARRを評価した。ESCIはAmazonが公開しているショッピングクエリと商品の関連性データセットで、クエリに対する各商品が「完全一致(Exact)」「部分一致(Substitute)」「補完(Complement)」「無関係(Irrelevant)」の4段階でラベル付けされている。多様なクエリ意図と商品カテゴリを含む実用的なベンチマークとして知られており、ランキングモデルの評価に広く用いられている。
- WordNetテスト: ARRはCross Encoder(計算コストの高い高精度モデル)と同等の性能を発揮し、Dual Encoderを大幅に上回った
- SToICaLの有効性: 「ランキングメトリクスをtop-1検索を超えて有意に改善」し、無関係ドキュメントのランキングエラーを「大幅に削減」
- ショッピング検索テスト(課題): 一部の構成で、全体的なランキングは改善したものの、最も関連性の高いドキュメントを1位に持ってくる精度が低下した
この最後の点は、実用化に向けてさらなる研究が必要な部分として明示されている。top-1精度の低下は、実際の検索体験に直結する問題であり、今後の改善が不可欠な課題だ。
SEO・AEOへの示唆
元記事では現状認識として、「一部のSEO関係者は『AIにより検索はすでに変わった』と言うが、この論文はランキング部分においてDual EncoderとCross Encoderが依然として中心的役割を担っていることを示している」と指摘している。
同時に、今回の研究はGoogleが検索ランキングの根本的な刷新に近づきつつあることも示唆している。ARRのようなアーキテクチャが本番環境に採用されれば、SEOやAEO(Answer Engine Optimization:AIによる回答生成エンジンを意識した最適化手法で、ChatGPTやPerplexityのような検索体験を念頭に置いたSEOの発展形)の前提が変わる可能性がある。ただしこれはあくまで研究段階の成果であり、現時点で実運用のシステムに適用されているわけではない。
詳細はGoogle DeepMind Develops New AI Search Ranking Modelを参照していただきたい。