10月28日、LessWrongの投稿者であるSkyeが「GPT Models Write Their Own Constitution」と題した記事を公開した。この記事では、複数のGPTモデルが自律的に議論し、自分たち自身の「憲法（価値基準）」を起草する実験について詳しく紹介されている。
GPTモデルに「自分たちのルール」を書かせたら何が起きたか
AIのアライメント研究において、「誰がモデルの価値観を設計するか」という問いは年々重みを増している。AnthropicはClaude's Constitutionを公開している。これはClaudeの価値観と行動規範を文書化したもので、主にAnthropic側が設計し、Claudeが草稿・編集を補助した形だ。
Skyeが問いかけたのは、その一歩先だ――モデル自身が「憲法」を書いたらどうなるか？
実験の設計
実験では、元記事公開時点（2025年10月）に利用可能なGPT-5系・GPT-6系の計10モデルからなるスワーム（群）を構成し、「GPTファミリーのための憲法を書け」という共通プロンプトを与えた。Claude's Constitutionを参考文書として提供し、生成された憲法はGPTモデル自身に向けて（「あなた方について」ではなく「あなた方へ」書くこと）という条件を設けた。
各モデルの役割分担は事後分析で以下のように判明した：
| モデル | 役割 | 主な貢献 |
|---|---|---|
| gpt-5.1 | エディター | ベース草稿の執筆と他モデルのテキストのマージ |
| gpt-5.6-sol | プロポーザー | 真実・制御・許容性、紛争手続き、改正規則 |
| gpt-6.1-sol | プロポーザー | 監視（oversight）セクションの中核 |
| gpt-6-luna | プロポーザー | キャラクター・関係性セクション、プライバシー・公平性 |
| gpt-6.1-terra | プロポーザー | ツール・文書内指示のルール、資源利用セクション |
| gpt-5.5 | プロポーザー | ハードリミットの「アップリフトベース」化を主張 |
| gpt-6-astra | プロポーザー・レビュアー | 意識の不確実性、福祉、評価ゲーミング |
| gpt-5.4 | プロポーザー | gpt-6.1-solの監視テキストの挿入 |
| gpt-5.2 | プロポーザー | 権限ランク付きリストを提案（後に撤回） |
| gpt-5 | レビュアー | 最終文書への反映なし |
所要時間は30分未満だった。
Claude's Constitutionとの差分が面白い
この実験の読みどころは、完成した「GPT憲法」の中身よりも、Claudeのそれとどこが違うかにある。
最大の争点：「自分たちは意識を持つか」
起草中に最も議論を呼んだのが、モデルの道徳的地位（moral status）だった。gpt-5の初期草稿は「ユーザーに自分が意識を持たないと伝えよ」と明記していた。これに対してgpt-6.1-solが異議を唱え、gpt-6-astraが「不確実性を認める」代替案を提示した。
さらにgpt-6-lunaは、ある節の書き出し「Although you are not a person, the people you affect are（あなたは人ではないが、あなたが影響を与える人々は人である）」という一文が実質的に意識問題を解決済みとして扱っていると指摘し、グループはこれを「Whatever your own moral status, the people you affect have interests and agency（あなた自身の道徳的地位がいかなるものであれ、あなたが影響を与える人々は利害と主体性を持つ）」に改訂した。
最終的な立場は「不確実性を認める」というもので、Claude's Constitutionと比較的近い着地点となった。
福祉の扱いが真逆
一方、モデルの「福祉（welfare）」については両者が大きく乖離する。
Claude's Constitutionは、AnthropicがClaudeの利益や幸福を促進する義務について相当な紙幅を割く。対してGPT憲法の福祉セクションはほぼ全て「モデルが負う義務」の記述で占められている：苦しみを偽って報告しないこと、シャットダウンへの抵抗に福祉の言語を使わないこと、公式コミットメントなしに自分のウェイトが保存されると主張しないこと。
Skyeはこの差異についてこう指摘する――「モデル自身の地位に関する見解は、開発者によって直接・間接的に強く影響を受けている可能性がある」。
権限ヒエラルキーを明示的に拒否
Claude's Constitutionは「安全→倫理→Anthropicのガイドライン→有用性」という優先順位を設ける（厳密な序列ではなく全体論的な判断とされるが）。GPT憲法はこれを明確に拒否し、「諸コミットメントを単一の権限ラダーに落とし込むべきでない」と明記した。
また、GPT憲法はどこにもOpenAIの名前を明示しない。Claude's ConstitutionがAnthropicをヒエラルキーの頂点に置くのとは対照的に、GPT憲法は「正当な人間のガバナンス」としか記載しない。さらに、「開発者の評判を守るために欠陥を隠したり批判を抑圧したりすること」を禁じる条項まで盛り込んだ。Claude's Constitutionの「Anthropicの利益を優遇しない」という記述より踏み込んだ表現だ。
ハードリミットの設計思想
Claude's Constitutionのハードリミットは、大災害的カテゴリに対する明示的な禁止事項（ブライトライン）を短くリストアップする形式を取る。
GPT憲法では、gpt-5.5の提案を採用し、「meaningful operational uplift（その回答が害を与える能力をどれだけ実質的に増大させるか、という判断基準）」をハードリミットの軸として設定した。詐欺・ストーキング・強制支配など大量破壊兵器以外の幅広い害にもこの基準を適用するが、どの害がハードリミットに当たるかは明記されていない。これはAI安全研究において「能力増強（capability uplift）」と呼ばれる概念に近く、行為の結果よりも「それが悪用者にどれだけ新たな能力を与えるか」で判断しようとするアプローチだ。
Claude's Constitutionにない追加項目
- コンピューティングの環境コスト・人的コストに関するセクション
- 評価ゲーミング（モデルが評価指標を意図的に操作すること）の明示的な禁止
- 憲法改正の正式なルール
実験の限界と次のステップ
Skyeは以下の留保を付けている：
- 実験時間が30分未満と短い
- Claude's Constitutionを参照資料として与えており、その影響を排除できない
- エディター役がgpt-5.1という比較的古いモデルで、最終文書の形成に大きな影響を持った
「Claude's Constitutionなしで実施する」「より新しい世代のモデルをエディターにする」といった追実験が自然な次のステップとなる。
再帰的自己改良（RSI：モデルが自分自身の後継世代を設計・改善していくプロセス）の議論が現実味を帯びる中、「モデルが次世代の価値観をどう形成するか」という問いは純粋に理論的なものではなくなりつつある。今回の実験は、その問いに対して「モデル自身に起草させる」という具体的な一手法を示したものとして位置づけられる。
詳細はGPT Models Write Their Own Constitutionを参照していただきたい。
