16文字のプロンプトが42,980バイトになる — OpenAI CodexがAPIに送っている「見えないデータ」の全貌
DRANK

8月4日、0xkatoが「What Codex Actually Sends to the Model」と題した記事を公開した。「Reply with pong.」という16文字のプロンプトを入力しただけで、Codexはモデルに42,980バイト・約9,435トークンのHTTPリクエストを送信していた。ユーザーの入力が占めるのはそのうち約25トークン、全体の**わずか0.3%**にすぎない。残りの99.7%はCodex自身が付加したものだ。この記事はその内訳を実測・解析した調査報告である。

by @tf_official
Related Topics: AI AI Code Generator