9月17日、The Decoderが「Former OpenAI researcher builds an AI model that judges options instead of writing text」と題した記事を公開した。この記事では、元OpenAI研究者が開発した、テキスト生成を行わず選択肢を評価・分類することに特化したAIモデル「Jev」について詳しく紹介されている。
テキストを「生成」しない、判断だけするAIモデル
LLM（大規模言語モデル）の主流アーキテクチャは「次のトークンを予測・生成する」という仕組みだ。こうした生成モデル（generative model）はテキストを自由に出力できる反面、存在しない情報をもっともらしく生成するハルシネーションの問題を本質的に抱えている。Jevはその方向性を根本から捨て、あらかじめ定義された選択肢にスコアを付けるだけに徹している。
アーキテクチャの分類で言えば、Jevは生成モデルではなく判別モデル（discriminative model）に近い設計思想をとっている。生成モデルが「何を書くか」を決めるのに対し、判別モデルは「与えられた選択肢のどれが正しいか」を判断することに特化する。こうした分類特化型の構造こそが、ハルシネーションを「回避」するのではなく、そもそも発生しえない構造にしている核心だ。
開発したのはTypeSafeというスタートアップ。元OpenAI研究者が立ち上げた会社で、Jevはその最初のプロダクトとなる。
仕組みはシンプルだ。開発者がまず「質問」と「許容される回答の選択肢」を定義する。Jevはユーザーのテキストを受け取ると、その選択肢それぞれに確率スコアを返す。「返答文を書く」ことは一切しない。
実用例：カスタマーサポートのリクエスト振り分け
公式ドキュメントに掲載されているサンプルがわかりやすい。
あるユーザーがECサイトに「注文で二重請求された、返金してほしい」というメッセージを送ったとする。このとき処理すべきことがある——問い合わせを正しいカテゴリに振り分けることだ。
- これは「支払い」「配送」「返品」のどの件か？
- ユーザーは「返金」を求めているのか、「説明」を求めているのか？
ここで開発者がJevと連携させ、これらの質問と選択肢を定義しておく。新着メッセージごとにJevに渡すと、返ってくるのは返答文ではなく、「payment issue」というラベルと、返金を希望している確率だ。
あとはソフトウェア側で固定ルールを適用すればいい。支払い関連は経理チームへ、返金希望にはフラグを立てる、ラベルが不確かな場合はスタッフがレビューする——といった具合だ。Jevは判定を出す。何をするかはプログラムされたルールが決める。
70〜500msのレスポンス、並列計算で実現
TypeSafeによると、Jevのレスポンスタイムは70〜500ミリ秒。現在の高速LLMと比較しても「何倍も速い」と説明している。
速さの理由は構造にある。通常のLLMはトークンを逐次生成するが、Jevはそのステップを省き、複数の出力を並列に計算する。同一のAPIコール内で質問を追加しても、レスポンスタイムはほぼ増加しない。
この速度を活かした用途として、TypeSafeはサンプルワークフローでいくつかのシナリオを紹介している。たとえば、AIアシスタントが返答を生成するたびに「この返答は会話の流れと矛盾していないか？」「顧客アカウントに記録のない返金を約束していないか？」をJevでチェックする、という構成だ。
営業・カスタマーサービス向けのユースケースも公開されており、購買意向の検出、話題によるリクエスト振り分け、人間オペレーターへの引き継ぎ判断なども挙げられている。
競合との差別化はまだ問われている
ただし、「選択肢への分類出力」自体は新しいアイデアではない。OpenAIもStructured Outputsとして同様の機能を提供している。Jevが差別化できるとすれば、速度・コスト・精度の組み合わせによってだ。
価格は**$0.042/100万入力トークン**で、出力は無料とされている。ただし公開されているベンチマークには限界もある。TypeSafe自身が設計した4つのワークフローのみを対象にしており、正解データとして用いているのは他のAIモデルの出力だ——つまり独立した第三者による検証ではなく、あくまで既存モデルの判断を「正解」として評価している点は留意が必要だ。GPT-4oなど最新の強力なモデルも評価対象に含まれていない。
「ハルシネーションなし」の保証範囲
TypeSafeはJevを「ハルシネーションが起きないモデル」として売り込んでいる。これは技術的には正確で、定義された選択肢の外の回答は構造上返しえないことが保証されている。
しかしその保証はあくまで出力形式に関するものだ。選択肢の中から事実として誤った選択肢を選んでしまうことは依然として起こりうる。「ハルシネーションなし」と「判断の正確性」は別の話だ。
現時点ではウェイティングリストへの登録で開発者がアクセスを申請できる。実業務で使えるかどうかは、各社が自社タスクで検証する必要がある。
詳細はFormer OpenAI researcher builds an AI model that judges options instead of writing textを参照していただきたい。
