9月10日、Futurismが「Anthropic Is Building a Huge Surveillance System to Spy on Anti-AI Activists and Predict Their Activities」と題した記事を公開した。AnthropicがAI反対活動家を監視・行動予測するサーベイランスシステムを構築しているという実態を、社内セキュリティ担当者へのインタビューや求人票の分析をもとに詳報している。

「プレクライム」型の監視体制

AIへの反対運動が広がる中、大手AIラボのAnthropicが、反AI活動家を対象とした大規模な監視システムを構築していることが明らかになった。

この件を最初に報じたのはAmerican Prospectだ。同誌はAnthropicのシニアセキュリティ担当者へのインタビューと求人票の調査から、その全容を明らかにした。

特に注目されるのが、Anthropicの「プレクライム（pre-crime）」的なアプローチだ。これは犯罪や脅威が実際に発生する前に予測・検知して先手を打つという考え方で、もともとフィリップ・K・ディックのSF小説に由来する概念が、現実の企業セキュリティ分野に転用されたものだ。実際に問題が起きてから対処するのではなく、抗議活動やデモの発生を事前に把握してルートや日程を変更するといった対応がその典型となる。

具体的な事例として、Anthropicのセキュリティ運用マネージャーであるKeon EllisonとZach Melvin、およびリスク検知企業SamdeskのCEOであるJames Neufeld が共有したインシデントが挙げられている。

「昨年、あるエグゼクティブが主要都市へ移動していた際に、Samdesk経由で計画されたデモに関する情報を入手した」とEllisonは語っている。警察の許可証をめぐる手違いでデモが1時間前倒しになった際、「Samdeskがデモ主催者のタイムライン変更を約60分前に通知してくれた」という。

「その1時間の余裕が決定的だった。なければエグゼクティブたちはミーティングを終えて、混乱の中心に飛び込んでいただろう。高ストレスになりえた状況が、Samdeskによる早期検知で回避できた」（Ellison）

チャットログの提供を拒否したまま警察へ通報したケース

監視活動はオフィス周辺のデモ把握にとどまらない。Anthropicは自社のAIチャットボット「Claude」上で交わされた会話内容を警察に通報した事例も存在する。

San Francisco Standardの報道によると、あるサンフランシスコの男性がClaudeに対して「ライフルを持っており、CEO・Dario AmodeiをSightsに捉えている」と発言した。Anthropicはこれをサンフランシスコ警察に通報した。

しかしAmerican Prospectが指摘するように、Anthropicは通報の際に当該ユーザーのチャットログの提供を拒否した。同誌はこの対応を「奇妙（bizarre）」と評している。大規模言語モデル（LLM）の安全性強化を求める声が業界内外にある中、具体的な記録を開示しないまま人物を当局に申告するという手続きのあり方は、透明性の観点から疑問を呼んでいる。

目指すのは「予測・予防型」の脅威管理

Anthropicのセキュリティマネージャーは、同システムの目的をこう語っている。

「目標は、事後対応型の情報収集から、プロアクティブかつ予測的・予防的な脅威エンゲージメントと管理へと運用を変革することだ。それがあらゆる業界において、高価値ターゲット（high-value targets）を守るうえで理にかなった運用の成熟度だ」

ここで用いられている「高価値ターゲット（high-value targets）」とは、軍事・セキュリティ業界で保護対象となる重要人物を指す用語であり、この文脈ではAnthropicの幹部を指している。同社がこうした軍事由来の概念を幹部警護の枠組みに持ち込んでいる点は、同社の内部文化を示す一端として受け取れる。

なお、Anthropicのオフィス周辺ではすでに抗議活動が発生しており、OpenAIのロビイスト事務所への抗議でも逮捕者が出ているなど、AI業界全体への反発は具体的な行動として現れている。米国ではAI開発の急速な進展に伴い、雇用喪失や著作権侵害、安全性への懸念を訴える市民運動が各地で活発化しており、こうした動きへの企業側の対応が問われている。

企業セキュリティによる活動家監視が問う倫理的論点

今回の報道が浮かび上がらせるのは、合法的な抗議活動を行う市民を「脅威」として位置づけ、民間企業が独自の情報収集・予測システムで監視することの倫理的・法的妥当性という問題だ。

米国では修正第一条（First Amendment）が言論・集会の自由を保障しており、平和的なデモは憲法上保護された行為だ。企業が外部のリスク検知サービスを通じてその動向を事前収集・分析することが、どの範囲で許容されるかについては明確なガイドラインが存在しない。加えて、AIチャットボット上の会話を法執行機関に提供する際の手続き的透明性についても、業界横断的な基準策定が追いついていないのが現状だ。

AIの安全性を標榜するAnthropicが、反対派市民の行動を予測・監視するインフラを整備しているという事実は、「誰のための安全性か」という問いを否応なく浮かび上がらせる。

詳細はAnthropic Is Building a Huge Surveillance System to Spy on Anti-AI Activists and Predict Their Activitiesを参照していただきたい。