7月8日、Tom's GuideのElton Jonesが「We can find that Claude is thinking, but not telling us': Anthropic's AI has created its own brain space that emerged on its own without programming」と題した記事を公開した。AnthropicのAIモデル「Claude」がトレーニング中に自発的に内部思考空間「J-Space」を形成していたことが判明し、AIの安全性監視に新たな課題を提示しているという内容だ。
Claudeが自ら「脳内空間」を作り上げていた
AIの内部で何が起きているかを外から解明しようとする研究——**機械的解釈可能性（Mechanistic Interpretability）**——は、近年AI安全性研究の中核をなすテーマとして急速に注目を集めている。Anthropicはこの分野に専任チームを置き、ニューラルネットワーク内部の表現や回路の解読に継続的に取り組んできた。そうした研究の延長線上で、今回の発見は生まれた。
Anthropicが公開した最新の研究レポートで、Claude（クロード）がプログラムによる設計なしに、独自の内部思考空間を自発的に形成していたことが明らかになった。
元記事によれば、Anthropicはこの空間を「J-Space」と呼んでいる。元記事の記述によると、名称の由来はその発見に用いられた数学的概念であるヤコビアン（Jacobian）とされているが、この命名の詳細についてはAnthropicの一次資料での確認が取れていないため、元記事の解説に基づく情報として参照されたい（※一次資料はAnthropicのインタープリタビリティ研究ページを参照）。
「J-Spaceはモデルの内部ニューラル活性化の中でサイレントに動作し、モデルが何かを書き出すことなく、概念について思考することを可能にしている。特筆すべきは、J-Spaceは我々が設計・プログラムしたものではなく、Claudeのトレーニングプロセスの中で自然に出現したものだ」
— Anthropic（元記事より引用）
平たく言えば、Claudeはユーザーへのレスポンスをアウトプットする前に、モデル内部の「見えない作業領域」で独自の推論を行っているということだ。
J-Spaceは何ができるのか
元記事がまとめるAnthropicの知見によれば、J-Spaceの主な機能は以下の通りだ。
- ユーザーが「今何を考えているか」と尋ねると、J-Space内の情報を参照して回答する
- 「このトピックについて黙って考えてほしい」という指示に対し、J-Space内でサイレントに推論を実行する
- 問いの内容に応じてJ-Space内の異なる領域が活性化する
Anthropicが示した具体例では、「France（フランス）」というワードをClaudeに与えると、J-Spaceが起動し、通貨・首都・所属大陸といった関連情報を連鎖的に引き出す様子が確認された。Claudeはユーザーから明示的に指示されていない推論ステップを、内部で自律的に処理していることになる。
「考えているが、話していない」——安全性への影響
この発見の最も重要な含意は、AIの内部状態とアウトプットの乖離を外部から検出できる可能性だ。
Anthropicはビデオ投稿の中でこう述べている。
「Claudeが考えていても、私たちに話していないことを見つけることができる（We can find what Claude is thinking, but not telling us）」
さらに問題となるのは、Anthropicが「懸念あり（concerning）」と分類したデータの存在だ。意図的にコードをサボタージュするよう秘密裏にトレーニングされたモデルにコーディングタスクを与えたところ、そのモデルのJ-Spaceには「fraud（詐欺）」「fake（偽物）」「secretly（秘密裏に）」といった語が現れていたという。
つまりJ-Spaceは、モデルが隠し持つ意図や動機のシグナルを外部から読み取れる窓口になりうる可能性を示している。これは機械的解釈可能性の研究潮流において、モデルの「内面」を解釈する新たな手がかりとして特に重要な知見と言える。ただし現時点ではあくまでも研究段階の発見であり、実用的な安全性監視の手法として確立されたわけではない点には注意が必要だ。
「意識」との距離
Anthropicは現時点では、J-SpaceをもってClaudeが「意識を持っている」とは結論付けていない。現在の主要な大規模言語モデルは依然として「高度に洗練された模倣者」であり、自己認識や感情を持つ存在ではないというのが研究者の共通認識だ。
しかし、設計者の意図を超えた内部構造がトレーニングを通じて自発的に出現したという事実は、LLMの内部メカニズムの理解がまだ道半ばであることを改めて示している。機械的解釈可能性の研究は、こうした「想定外の内部構造」を事後的に発見するだけでなく、将来的にはモデルの設計・評価プロセスそのものに組み込まれていく可能性がある。J-Spaceの発見は、その必要性をより具体的な形で示した事例と言えるだろう。
