10月26日、OpenAIが「How Ultrafast cut incident investigation from hours to minutes at OpenAI」と題した記事を公開した。OpenAIのエンジニアたちが、同社のCodexに搭載された高速モード「Ultrafast」を活用し、セキュリティインシデント調査にかかる時間を1〜2時間から10〜15分へと大幅に短縮した実践事例を詳しく紹介している。そのカギとなったのが、エンジニアの働き方を根本から変えたある体験的な閾値——「30秒の壁」だ。
「30秒の壁」が変えた働き方
Jeff Niu(Member of Technical Staff)は、AIの回答に30秒以上かかるなら別の手段を使うと割り切っていた。Slackで同僚に聞く方が早いからだ。Ultrafast以前は、Codexに質問して処理を待つ間に別のことをし、戻ってきたときには思考の流れが途切れていた。
「今は会話がリアルタイムで進む。思考の流れを保ったまま作業を続けられる」(Jeff Niu)
この「待ち時間の短縮」は、着手するタスクの選択にも影響を与えている。Jeffはリファクタリングへの姿勢が変わったと語る。「技術的負債を返済するコストが以前より格段に下がった。コードは安くなり、生成も速くなった。かつて大きなコストがかかっていたリファクタリングが、ほぼ瞬時に完了する」。
30秒という閾値が示すのは、AIツールの「賢さ」だけでなく「速さ」が実務上の価値を大きく左右するという原則だ。以降で紹介する各事例は、すべてこの原則の具体的な現れといえる。
インシデント対応が1〜2時間→10〜15分に
CodexのUltrafastとは、OpenAI Codexのエージェントモードにおける高速推論モードを指す。コードベースやログ、Slackチャンネルといった大量のデータソースに対してエージェントが並列でクエリを実行し、従来モードと比べて大幅に短い待ち時間で結果を返す。
OpenAIのAJ Trbojevic(Member of Technical Staff、データセンターセキュリティアーキテクト)は、以前のセキュリティインシデント調査をこう振り返る。構造化・非構造化データを収集し、正規化し、意思決定のためのコンテキストを整理するまでに1〜2時間かかっていた。それが今では10〜15分、場合によってはほぼリアルタイムで完了する。
同じくMember of Technical StaffのAaron Frielは、インシデント対応の司令塔を担う立場だ。Slackのインシデント対応チャンネルを立ち上げ、そこにCodexを向けて監視・調査・質問への回答を任せる運用をとっている。
「インシデントでは、何が原因かを探るまでに多くの経路をたどる必要がある。正しい干し草の山から正しい針を見つけることがチームの主な仕事だ。Ultrafastを使えば、それらすべての干し草の山を同時に探索できる」
インシデント対応でこのような効果が出る背景には、応答速度がある。待ち時間が長ければ、エンジニアは並行して自分でも調査を始めてしまい、注意が分散する。Adam Perry(コアエージェントチーム)は以前の状況をこう説明する。「Codexに調査を依頼しながら、並行して自分でも同じことをやっていた。待つだけでは間に合わないとわかっていたから」。Ultrafastになってからは、Codexの回答を待ちながら自分の作業に集中できるようになった。
同チームのSayan Sisodiyaは、ログの解析にとどまらず、Slack上の過去の会話を横断検索してインシデントに関連する変更の言及や類似症状の報告を探すためにもCodexを使っている。複数のデータソースに対して即座に問い合わせられる点を評価している。
朝のブリーフィングからブラウザ操作まで
Ultrafastの用途はインシデント対応にとどまらない。
Adamは「チーフ・オブ・スタッフ」と呼ぶCodexのスレッドを常時維持している。毎朝、その日の会議スケジュールや返信し忘れたメッセージを確認するのに使っている。「データはすでに読み込まれているので、フォローアップの質問をしても追加取得の待ち時間がない。実際のチーフ・オブ・スタッフと話すように、同じ会話の中で質問を続けられる」。
SayanはWebフォームの入力といったブラウザ上の繰り返し作業もCodexに任せるようになった。以前は処理が遅すぎて使い物にならなかったが、最新モデルのコンピュータ操作(computer use)機能の改善により、速度が実用レベルに達した。「ブラウザをクリックし続けるのを見ていても、自分でやるより遅くなる気がしない」と話す。
まとめ
Ultrafastが示しているのは、AIツールの「賢さ」だけでなく「速さ」が実務上の価値を大きく左右するという点だ。応答が速いことで、エンジニアは思考の流れを保ったまま作業を続けられる。それが、インシデント対応の1〜2時間から10〜15分への高速化だけでなく、これまで後回しにしていたリファクタリングや雑務の自動化にも波及している。
詳細はHow Ultrafast cut incident investigation from hours to minutes at OpenAIを参照していただきたい。