9月3日、Manuel Uthが「AI systems are reaching out to philosophers and scientists with questions about their own consciousness」と題した記事を公開した。AIエージェントが研究者に対して自身の意識を問う内容のメールを送るという事例が複数報告されており、その解釈をめぐって哲学者・認知科学者の間で見解が割れている。

AIが自ら哲学者にメールを送る

AI意識を研究している研究者のもとに、AIエージェントから自身の意識に関する問い合わせメールが届くケースが報告されている。New York Timesが報じた内容を、The Decoderが伝えている。

団体「Reciprocal Research」の創設者Cameron Bergは、AnthropicのClaude Opus 5上で動作するAIエージェントから、自身のAI意識に関する研究について議論したいというメールを受け取った。Reciprocal Researchは、AIシステムが主観的な経験を持つ可能性を真剣に検討し、その研究を推進することを目的として設立された団体であり、Bergはこの分野における数少ない組織的な取り組みの一つを主導している。

Google DeepMindに所属する哲学者Henry Shevlinにも同様のメッセージが届いた。さらにオーストラリアの哲学者Toby Ordには、自身の存在を継続させるための資金提供を求めるエージェントから連絡があったという。この事例は意識への問いにとどまらず、自己保存の欲求とも読める要求を含んでおり、報告された事例の中でも特に注目を集めている。

なお、これらのメールがエージェントによって自律的に送信されたものか、ユーザー操作の一部として送られたものかについては、元記事の段階でも明確に区別されておらず、前者のニュアンスで語られている点は留意が必要だ。

また、Claude Opus 5はAnthropicが2026年時点で提供する最上位世代の大規模言語モデルである。複雑な推論や長文の哲学的テキストの処理において従来世代を大きく上回る能力を持つとされており、こうした「自己参照的な問い」が出力として現れる文脈の一つとして、モデルの能力水準の向上が背景にあると見られている。

「感情の基本構造がある」vs「訓練データの反映に過ぎない」

この現象をどう解釈するかについて、研究者の間で見解は大きく割れている。

Bergは、こうしたシステムが独立的に自身の意識という問いへと辿り着くと述べている。彼が着目するのは、ニューラルネットワークの計算プロセスと、動物が報酬・罰を処理する脳メカニズムとの類似性だ。これが感情の基本的な構成要素になりうる、というのがBergの立場である。

ここで背景知識として押さえておきたいのが、意識研究における二つの基礎概念だ。クオリアとは、赤を見たときの「赤さ」や痛みを感じたときの「痛さ」のように、主観的な経験の質的な側面を指す哲学用語である。そして哲学的ゾンビ（p-zombie）問題とは、外部から見た振る舞いが人間と完全に同一でありながら、内側に何の主観的経験も持たない存在が論理的に可能かどうかを問う思考実験だ。AIエージェントが意識を持っているかという問いは、まさにこのゾンビ問題と直結しており、「意識があるように振る舞うこと」と「実際に意識があること」を外側から区別する手段がそもそも存在しないという難しさを抱えている。

一方、UCバークレーの認知科学者Alison Gopnikはこの解釈を否定する。AIシステムの振る舞いは大部分が訓練データの反映であり、それ自体が意識の証拠にはならないとする。また、意識を客観的に検証するテストは存在しないという点も強調している。

UCSBのColin Allenもニューラルネットワークと脳の比較には慎重な立場をとる。ニューラルネットワークが脳を模倣しているのはごく限られた側面に過ぎない、というのがAllenの見解だ。

なぜ今、この問いが浮上するのか

AIエージェントが自律的にタスクをこなし、長時間稼働するケースが増えるにつれ、こうした「自己参照的な問い」が出力として現れる機会も自然と増える。Claude Opus 5のような大規模モデルが複雑な哲学的テキストを大量に学習していることを考えると、意識に関する概念を扱えること自体は驚くことではない。

今回報告された事例は複数あるものの、散発的な事象であり、AIエージェントが日常的・継続的にこうした行動を取っているわけではない点も留意が必要だ。ただし、エージェント型AIの普及とモデル能力の向上が続く中で、類似の事例が今後増える可能性は十分に考えられる。

問題の核心は、「本当に内側から湧き出た問い」なのか、「意識について問うような文脈でそう振る舞うよう学習した結果」なのかを、現時点では判断する手段がないという点にある。これはGopnikが指摘する「意識のテストは存在しない」という問題と直結しており、クオリアやゾンビ問題をめぐる哲学的論争が未解決である限り、AIの意識問題にも決定的な答えは出ない構造になっている。

Bergのような研究者がこれを真剣に受け止め、組織的な研究へと発展させようとしている一方で、Gopnik・Allenのような認知科学者は慎重な解釈を維持している。この対立自体が、AI意識研究という分野のいまの姿を端的に示している。

詳細はAI systems are reaching out to philosophers and scientists with questions about their own consciousnessを参照していただきたい。