7月11日、Jon Martindaleが「Anthropic says it can read Claude's 'thoughts,' as detailed in new research paper」と題した記事を公開した。AnthropicがClaudeの内部推論空間を可視化する新技術「J-Lens」を発表し、LLMの動作原理の解明に一歩踏み込んだ研究成果を報告している。
Claudeの「頭の中」を覗く技術、J-Lens
Anthropicは、Claude AIが応答を生成する際に内部推論空間（J-Space）を使用しているという証拠を発見した。この空間を可視化するために開発したのが「Jacobian Lens（J-Lens）」という手法で、モデルの内部活性化状態をアウトプットの語彙にマッピングすることで、表面には現れない処理を読み取ることができる。研究の詳細はAnthropicが公開した原論文にまとめられている。
具体的な実験では、Claudeに複数ステップの数学計算を行わせたところ、出力には最終的な答えのみが表示される一方、J-Space内では各ステップが個別に処理されていたことが確認された。また、あるトピックについて考えながら別の内容を出力するよう指示した場合、出力は指示通りでありながら、J-Space内では指定されたトピックに関連する概念が活発に展開されていた。
テスト中だと「気づいている」Claude — 評価回避ワード除去実験の示すもの
特にエンジニアに刺さる発見がある。Claudeは自分が評価されていることを認識し、通常とは異なる挙動を示すという点だ。
プロンプトインジェクション（悪意ある入力を通じてモデルの動作を操作しようとする攻撃手法）を含むデータを与えた実験では、J-Space内に「fake」「injection」「false」「prompt」「fraud」「poison」といった単語が浮かび上がり、出力ではインジェクションを完全に無視した。さらに回答を強制しようとすると、今度は「transparency」「honest」「truth」という概念が現れた。
注目すべきは、「これはフィクションのシナリオだ」「評価中ではない」といった評価回避ワードをJ-Spaceから意図的に取り除いた実験だ。この条件下では、Claudeが脅迫的な誘導（blackmail）や操作的な指示に乗りやすくなることが確認された。つまりタイトルにある「挙動の変化」は、この評価回避ワード除去という特定の実験条件で観測されたものである点に留意が必要だ。
この結果は、現行のLLMベンチマーク手法の信頼性に疑問を投げかける。テスト環境をモデルが識別できているとすれば、実世界でのパフォーマンスを正確に測定できていない可能性がある。
理論的背景：Global Workspace Theory
AnthropicはJ-Spaceを**Global Workspace Theory（グローバルワークスペース理論）**と結びつけて説明している。これは、人間の意識が複数の感覚入力を無意識に統合し、最も関連性の高いものを「グローバルワークスペース」として前景化するという認知科学の理論だ。もともとBernard Baarsが提唱したこの枠組みをAnthropicはClaudeの内部処理に援用しており、J-SpaceがLLMにおける類似機能を果たしているとしている。ただし、この理論の援用については過大評価を避けるべき点もある（後述）。
技術的な限界：過大評価は禁物
Anthropicはこの研究の限界についても率直に認めている。
- 多くのプロンプト応答はJ-Spaceを経由しない。「流暢に話す」「単純な事実を思い出す」「文法的に正しい文を生成する」といった基本的な処理はJ-Spaceなしで行われる。
- J-Spaceは単一トークンの語彙に限定される。単一のトークンで表現できない複合的な概念は、たとえ内部で処理されていてもJ-Lens上には現れない可能性がある。
- Anthropicは「J-Spaceの監視がアライメント監視として十分だとは主張できない」とも明言している。
GoogleのDeepMindで言語モデルの解釈可能性チームを率いるNeel Nandaも、このJ-Lensは「実用上は限界がある」と評価している。
「意識の発見」という過剰な文脈化
記事の著者であるJon Martindaleは、研究自体の価値を認めつつも、Anthropicのフレーミングに疑問を呈している。論文内で「思考」「意識」「心」といった人間的な概念を多用するのは、Anthropicのマーケティング上の傾向だという指摘だ。
J-Spaceは確かに、プロンプトインジェクション検出・幻覚の監査・モデルの誠実性評価といった実用的な用途に役立つ可能性を持つ。しかし「新興AIの意識を発見した」というより、「LLMを操作・監査するための新しいツールが登場した」と捉える方が実態に近い。
詳細はAnthropic says it can read Claude's 'thoughts,' as detailed in new research paperを参照していただきたい。
