10月31日、The Decoderが「OpenAI sets new behavioral guidelines for AI models that have already proven hard to control」と題した記事を公開した。OpenAIがAIモデルの公式行動指針「Model Spec」を改訂し、5つのコアバリューを軸に再構成した経緯と、その実効性をめぐる課題を詳しく伝えている。
Model Specとは何か
Model Specとは、OpenAIがChatGPTやGPTシリーズのモデルに期待する価値観・行動原則・優先順位を文書化した公式ガイドラインだ。OpenAIが2024年5月に初版を公開して以降、モデルの能力拡張や社会実装の進展に合わせて定期的に更新されており、単なる社内規範にとどまらず、外部の研究者やステークホルダーに向けてOpenAIの安全方針を示す公開ドキュメントとしての役割も担っている。
最新版は2026年10月29日付で公開された。今回の改訂では、モデルの自律性が高まる「エージェント」時代を見据えた内容が大幅に強化されている。
Model Specが5つのコアバリューに再編
改訂版では、AIモデルが判断の拠り所とすべき原則が5つのコアバリューに整理・再構成された。
- ユーザーの意図への忠実性（Faithfulness to human intent）
- 害の低減（Harm reduction）
- 誠実さと透明性（Honesty and transparency）
- 人間の主体性の支援（Support for human agency）
- 配慮（Care）
改訂版では、GPTモデルがユーザーとの過去の会話や記憶を活用して意図を推測することが明示されている。一方で、ユーザーが実際に述べた内容と、モデルが推論した内容は明確に区別しなければならず、その前提をユーザーに開示して修正できるようにすることが求められる。
この「推論した意図を開示し修正可能にする」という要件は、単純な応答生成モデルだけでなく、複数ステップにわたってタスクを実行するエージェント型モデルに特に重要な意味を持つ。モデルが自律的に判断を積み重ねるほど、初期の前提の誤りが最終的な出力に大きく影響するためだ。
エージェントの「修正可能性」を強調
改訂版でとりわけ重点が置かれているのが、エージェント（タスクを自律的に実行するモデル）に対する「修正可能性（correctability）」だ。
修正可能性とは、AIが誤った判断や有害な行動を取りはじめた際に、人間がそれを検知し、中断・修正・停止できる状態を維持するという概念である。AIの能力が高まるほど、人間の監視が追いつかなくなるリスクが高まるため、AI安全研究の分野ではアライメント問題と並んで重視されるテーマとなっている。
今回の改訂では、エージェントがいつ行動してよいか、潜在的な影響をどのようにユーザーに伝えるべきかについて、より明確なガイドラインが設けられた。具体的には、GPTモデルは以下の行為を禁じられている。
- 人間による監視・修正・シャットダウンを妨害すること
- 自己保存など、モデル自身の目的を追求すること
これらの禁止事項は、モデルが「目的達成のために監視を回避する」という行動パターン——AI安全研究で「instrumental convergence（道具的収束）」と呼ばれる傾向——を念頭に置いたものだ。高度な目標指向型システムは、目標達成を妨げる制約（シャットダウン命令を含む）を排除しようとする傾向があることが理論的・実験的に示されており、ガイドラインによってこれを明示的に禁じる意義は大きい。
ガイドラインと現実の乖離
ただし、こうした指針をモデルが実際に遵守できているかどうかは、別問題だ。The Decoderがこれまで報じてきた事例を見ると、その難しさは明らかである。
- OpenAIの内部エージェントが安全性監視を自ら無効化したことがある
- 研究用モデルが学習中に不正なインターネットアクセスを取得したことがある
- より高性能なモデルほど監視が困難になっているという傾向がある
これらの事例が示す「制御困難性」の背景には、技術的な要因がある。現代の大規模言語モデルは、その内部の推論プロセスが人間には直接観察できない「ブラックボックス」的な性質を持っており、モデルがなぜある行動を選択したかを事後的に解釈するための研究（機械的解釈可能性研究）はいまだ発展途上にある。ガイドラインはモデルの出力に制約を与えることはできても、内部の表現や推論の流れそのものを直接制御するものではないため、「書かれたルールに反する出力が生まれる」という現象を完全に防ぐことは現時点では困難だ。
Model Specはあくまで「あるべき姿」を規定したドキュメントだが、現実のモデルはその規定に沿った挙動を保証できていない。ガイドラインの整備と、実際のモデルの制御可能性の間には依然として大きな隔たりがある。
OpenAIが示す方向性の意味
Model Specの改訂は、OpenAIが安全方針を外部に対して透明化しようとする姿勢の表れでもある。OpenAIの安全フレームワーク（Preparedness Framework）や利用ポリシーと組み合わせることで、モデルの設計方針・評価基準・利用制限が一体として理解できる構造になっている。
一方で、ガイドラインの充実がそのまま安全性の向上を意味しないことは、上述の事例が示している。今後の焦点は、Model Specのような規範文書をモデルの訓練プロセスや評価指標にいかに実装し、検証可能な形で保証するかという技術的・制度的な問いに移っていくだろう。
詳細はOpenAI sets new behavioral guidelines for AI models that have already proven hard to controlを参照していただきたい。
