OpenAIが判定特化の「Decisions API」を公開 — Responses APIの約10倍速く、出力トークン無料でYes/No分類を処理
DRANK

10月8日、The Decoderが「OpenAI launches Decisions API that reduces complex evaluations to yes, no, or pick one」と題した記事を公開した。汎用LLMに判定タスクを投げると推論コスト・レイテンシ・出力の不安定さという三重苦が伴うが、OpenAIはその問題を用途を絞ることで解決する「Decisions API」をパブリックベータとして公開した。分類・判定に処理を特化させることでResponses APIと比べて約10倍高速に動作し、出力トークンは無料という料金体系は、大量の分類タスクを抱える企業にとって見逃せない選択肢となりうる。

by @tf_official
Related Topics: AI Machine Learning