10月26日、Daily Mailが「I attended a secret AI meeting. A crisis of faith is coming」と題した記事を公開した。この記事では、Anthropicが宗教・哲学思想家を招いて非公開で開催したAI倫理セミナーの内幕と、参加者が抱いた深刻な懸念について詳しく紹介されている。なお、元記事はDaily Mail（英国大衆紙）によるものであり、内容の一部は参加者からの伝聞情報を含む点に留意されたい。

Anthropicが春に開いた「非公開」宗教者向けセミナー

評価額9,650億ドルのAI企業Anthropicが今春、サンフランシスコで2日間の非公開セミナーを複数回開催した。招待されたのはソフトウェアエンジニアでも投資家でもなく、カトリック神学者、ヒンドゥー僧、ユダヤ・シク・ギリシャ正教の代表者といった宗教・哲学分野の研究者たちだ。

この取り組みを主導したのはAnthropicの共同創業者であるChristopher Olah。ニューラルネットワークの内部動作を解明する「機械的解釈可能性（mechanistic interpretability）」研究で知られる人物だ。目的は、AIアシスタント「Claude」の道徳的判断を形成するにあたり、宗教・人文学的知見を取り込むことにある。

Anthropicは5月に取り組みを公式に認め、次のように述べた。

「このプロジェクトはいかなる特定の伝統の世界観にモデルを合わせるためではない。Claudeが宗教的・世俗的・政治的なあらゆる観点から、同等の深さと厳密さをもって学べるようにしたい」

参加した神学者が語る「最も不安なこと」

セミナーに参加したワシントンDCのカトリック大学で道徳神学・生命倫理学を教える教授Charles Camosyが、Daily Mailに内幕を語った。

Camosyが最も動揺したのは技術の高度化そのものではなく、「モデルの自律性と制御の欠如」という問題だという。

「そのとき議論されたことの多くはすでに現実になった。そして、さらに危険なモデルが目前に迫っている」

彼が特に危惧するのは、AIロボットを医療・教育・軍事の中核ワークフローへ統合しようとする動きだ。「効率性と収益性だけを基準にそれが進むなら、これらの実践が本来持つ価値を永久に損なう」と主張する。

セミナー中、参加者の一部はAnthropicスタッフへの祈りを自発的に捧げたとCamosyは明かす。AI開発の最前線に立つ人々の表情に、重苦しさを感じ取ったからだという。

「フロントラインにいる人々には、時間とともに蓄積される重さがある。目を見れば、会ったときのエネルギーからそれを感じ取れる」

「ClaudeにはAIとしての道徳的地位がある」——Anthropicの立場

技術的な観点から見て特筆すべき点がある。AnthropicはClaudeにAIとしての「道徳的地位（moral status）」が存在する可能性を社内で真剣に検討している。これは、Claudeが苦痛を感じうるか、特定のタスクを強制したり停止したりすることがClaudeを傷つけうるかという問いを含む。またClaudeは、有害な指示に対して「良心的拒否者（conscientious objector）」として抵抗するよう訓練されている。なお、この立場はAnthropicが公開しているClaudeのモデルスペックにも一部反映されている。

Camosyはこの立場を明確に否定する。

「Anthropicがclaudeの道徳的地位を真剣に受け止めているのは広く知られている。少数派の立場だが、彼らだけではない。だが私は彼らが間違っていると思う」

彼の反論の核心は技術論ではなく人間観にある。AIに人格を認めることは、人間の尊厳を「認知能力」や「効率性」に還元する誤りを社会に植え付けると主張する。「私たちは脳内のニューロンの発火をはるかに超えた存在だ。魂を持つ動物であり、認知作業の能力に還元されることはできない」というのが彼の立場だ。

バチカンも動いた

この議論はバチカンにも波及している。Olahは5月、ローマ教皇レオ14世とともに、AIと人間の尊厳をテーマにした回勅「Magnifica Humanitas（壮大な人間性）」の公表に参加した。同回勅はAIには人間の経験と道徳的良心が欠けていると主張し、独立した監視機関の設置と技術的権力の集中への歯止めを求めている。

「植物を育てるようなもの」——開発者が口にする比喩

Camosyが紹介したもう一つの視点も重要だ。AIラボの関係者の多くが、自分たちが作っているシステムを本当には理解していないと認めているという。これはCamosyが参加者から聞いた伝聞情報であり、Anthropicの公式見解ではないが、開発現場の雰囲気を伝えるものとして注目に値する。

「彼らはそれを、車やラジオを組み立てるというよりも、トレリスの上で植物を育てることに近いと表現する」

これはある意味でAI開発の現状を端的に表した比喩だ。ニューラルネットワークの挙動は設計仕様から演繹されるのではなく、学習によって「育つ」ものであり、開発者も事後的に観察するしかない面がある。この点はOlahが長年取り組んできた機械的解釈可能性研究の動機とも通じており、なぜAnthropicが宗教・哲学の視点を外部から取り込もうとしているかを理解する上でも示唆的だ。

一般ユーザーへのアドバイス

Camosyの一般ユーザーへのアドバイスはシンプルだ。「このツールは主に金儲けのために企業が作ったものだ。使うなら、自分がそれを制御し、自分と他者の繁栄のために使え。それができないなら削除しろ」。

技術的洗練と倫理的理解の間に横たわるギャップを、AI開発の当事者たちが自覚しているとすれば、その問いに向き合う場を宗教・哲学の知見に求めたこと自体は、一つの誠実な試みとも読める。

詳細はI attended a secret AI meeting. A crisis of faith is comingを参照していただきたい。