11月12日、The Decoderが「Helsing built an AI system that prepares targets for weapons systems and says every decision will carry a human name」と題した記事を公開した。欧州の防衛テック企業Helsingが軍事向けAIターゲティングプラットフォーム「Clarity」を発表し、人間の監督と欧州主権を掲げる一方、類似システムの運用実態が浮き彫りにする課題について詳しく論じた内容だ。
Helsingとは何者か
ドイツの防衛テック企業Helsingは、ウクライナ戦争でドローン供給の実績を持つ数少ない欧州ベンダーの一つだ。同社が今回ベルリンで発表したClarityは、「エージェント型インテリジェンスプラットフォーム」と銘打たれた兵器系統向けのターゲット推奨ソフトウェアである。
Clarityは、センサーフィード、オープンソースインテリジェンス（OSINT）、文書レポート、既存システムなど、軍事ユニットがアクセスできるあらゆるデータを処理する。数百の専門AIエージェントがこれらのデータソースを統合し、敵の軍事力・施設・拠点を特定したうえで、人間によるレビューを経て適切な兵器システムへデータをパッケージングする。
システムの特徴は以下の通りだ：
- 欧州主権の保証：顧客自身のインフラ上で稼働し、モデルとインターフェースは欧州で開発。データと運用は軍が単独で管理する
- NATOスタンダード準拠：Modular Open Systems Approachに従い、あらゆるメーカーのエフェクター（兵器）と接続可能
- 人間の最終承認：ターゲット推奨は複数の独立したソースが合意し、高い確度で評価できた場合のみ行われる。兵器システムへの引き渡しには人間の承認が必要で、すべての決定は責任者の氏名とともに記録される
競合はPalantirのMavenだ。MavenはすでにPentagonとNATOのワークフローに組み込まれ、長年の実運用で洗練されている。ドイツ連邦軍（Bundeswehr）は来年からAI搭載システムの導入を計画しており、Clarityが実際にどの顧客で稼働しているかはまだ明かされていない。
「人間が決める」という原則が崩れるとき
Helsingの掲げる「人間の監督」という約束が、実際の戦場でどう機能するかは、既存の類似システムの運用実態を見れば明らかだ。元記事が参照する事例として、まず米軍によるPalantir Mavenの活用がある。元記事によれば、開戦から24時間で約1,000か所、数日以内に3,000か所以上を攻撃したとされており、ウォール・ストリート・ジャーナルは、軍内部で「The computer said to do this（コンピューターがそう言ったから）」という姿勢が広がっていると報じた。
※編集部の考察：元記事ではMavenと特定のLLMとの組み合わせについて言及があるが、個別製品名の対応関係は元記事の表現に依拠して読むことを推奨する。
ガザでの事例：より深刻なのがイスラエルの「Lavender」システムだ。+972 MagazineとLocal Callの調査によれば、このシステムは一時期最大3万7,000人のパレスチナ人を潜在的ターゲットとしてフラグ立てした。人間によるレビューは1ターゲットあたり約「20秒」にとどまり、主に「男性かどうか」の確認に終始していたという。さらに「Where's Daddy?」と呼ばれる別システムがフラグされた人物を自宅に追跡し、夜間に攻撃するケースが多発した。
データ融合はハルシネーションを防がない
複数ソースを統合すれば精度が上がるという前提も、元記事が紹介するインシデントによって問い直されている。AIが生成したインテリジェンスレポートを元に貨物の内容を誤認識し、武装部隊が展開直前まで進んだケースが報告されており、エラーが発覚したのはオペレーション直前だった。
問題の根本はオープンデータと機密データを組み合わせた際の貨物の誤認識で、AIが生成した情報を検証する統一基準がなく、特に若い分析官がツールを無批判に信頼していたことが指摘された。ある情報筋の言葉が端的に状況を表している：
「AIは、悪いアイデアに速く辿り着かせてくれる」
「名前を記録する」だけで十分か
Helsingが「すべての決定に人間の名前を紐付ける」と強調するのは、説明責任の観点からは前進だ。しかし、上記の事例が示すのは、意思決定のスピードと量が人間の判断能力を超えた瞬間に、形式的な承認が形骸化するという構造的な問題だ。システムの設計がどれだけ丁寧であっても、運用の文脈がその原則を侵食する。
Clarityがこの問題をどう克服するかは、実際の運用データが出てこない限り評価できない。欧州主権・透明性・説明責任という設計思想の妥当性は認めつつも、同様の原則を掲げた先行システムが現場でいかに形骸化したかという事実は、Clarityの評価軸として今後も問われ続けるだろう。
詳細はHelsing built an AI system that prepares targets for weapons systems and says every decision will carry a human nameを参照していただきたい。
