Google、1回のAPI呼び出しで1,000件の質問を並列判定できる「Gemini Decisions API」を公開 — テキスト生成の5分の1のコストでルーティングやモデレーションを処理
DRANK

11月12日、The Decoderが「Google joins the decision-model wave with Gemini Decision 1, scoring 1,000 questions in a single pass」と題した記事を公開した。GoogleがYes/No判定や多肢選択など閉じた形式の意思決定に特化した新API「Gemini Decisions API」を発表した。1回の推論パスで最大1,000件の質問を並列処理しながら、比較対象モデルの約5分の1のコストという設計は、エージェント系システムのルーティング層やコンテンツモデレーションなど、判定コストが積み上がりやすい用途に直結する。

by @tf_official
Related Topics: AI Google Cloud Machine Learning