8月24日、Digital Trendsが「Autonomous AI drones are now killing humans, and there's no going back」と題した記事を公開した。自律AIシステムが標的を選択したロシア製ドローンが民間人の死者を出したとされる事案を詳報し、国際社会が規制を整備できないまま技術が実戦に浸透しつつある現状に警鐘を鳴らしている。

7月6日、ウクライナで何が起きたか

ニューヨーク・タイムズの調査報道によると、2026年7月6日にウクライナ南部のザポリージャでロシア製ドローンが攻撃を行い、19歳の大学生を含む民間人3名が死亡した。

このドローンは、人間のオペレーターがガソリンスタンド方向への飛行経路を設定した。しかし、最終的な攻撃対象の選択は自律AIシステムが行ったとされる。システムはプロパンタンクを標的として選定したとみられ、そこへの直撃には失敗して付近で爆発した。

専門家はこれを、ロシアのドローンが自己標的AIを用いて民間人を死亡させた最初の記録事例と評価している。ただし、この評価はニューヨーク・タイムズの調査報道と専門家の分析に基づくものであり、公的機関による確定認定ではない点には留意が必要だ。

なお、「人間なしで標的選択を行った」という表現には補足が必要である。人間のオペレーターは飛行方向の設定に関与しており、完全に人間が排除されていたわけではない。今回の問題の核心は、最終的な攻撃対象の決定という最も重要な判断フェーズが自律システムに委ねられていたという点にある。

搭載されていたのはNvidia Jetson Orin

機体から回収されたコンピューターは**Nvidia Jetson Orin**だった。Jetson Orinは組み込みAI推論向けの高性能SoM（System on Module）で、ロボット・自律機械向けに広く市販されている製品だ。ウクライナ当局の分析によれば、そのコードにはシステムが認識・攻撃するよう訓練されたオブジェクトの種別が含まれていた。

従来の「AIアシスト型」ドローンは、標的の最終選択に人間を関与させ、ソフトウェアは最終接近フェーズのみを担う構成が一般的だった。今回のシステムはその一線を越え、人間が標的選択ループの外に置かれた。

「コンピューターに責任は取れない」——1979年の警告

記事の中で引用されている言葉が刺さる。

「コンピューターは決して責任を問われることができない。ゆえに、コンピューターが経営上の意思決定を行うことがあってはならない」
— 1979年 IBM研修マニュアル

この引用は記事が典拠として挙げているものだが、約半世紀前の文書であるため、読者が一次資料を直接確認することは容易ではない。引用の趣旨としては——コンピューターは判断を下せても責任を負えない、という原則——が重要であり、それが今や人命に直結する兵器システムに問い返されている点に意味がある。

自律兵器は裁判に立てない。判断の根拠を説明できない。誤った攻撃を行っても罰せられない。責任の所在が消えるわけではないが、ソフトウェアが判断の一部を担った時点で、それを特定の人間に帰属させることは格段に難しくなる。

ロシアだけではない

この技術を追っているのはロシアだけではない。ウクライナもロシア占領下のクリミアにある燃料貯蔵施設や軍事装備を標的に、完全自律システムの実験を実施している。ウクライナの元国防相はニューヨーク・タイムズの取材に対し、「それらの実験では民間人を殺していない」と述べた。

双方が実戦環境でテストを続けており、技術は今後さらに高度化する。軍が標的選択をソフトウェアに委ね始めた後、その責任を取り戻すことは困難になるというのが記事の核心的な警告だ。

「後戻りできない」という問題

AIが搭載されたドローンによる民間人死者はすでに現実となった。この技術が実戦投入されている事実は変わらない。

記事はこの状況を「危険な滑り坂（slippery slope）」と表現し、有効な運用制限を設ける緊急性を訴えている。国際的な自律兵器規制をめぐっては、特定通常兵器条約（CCW）の枠組みで「致死的自律型兵器システム（LAWS）」に関する政府専門家会合が2014年以降断続的に開催されてきたが、主要軍事大国間の利害対立から法的拘束力を持つ合意には至っておらず、議論は長年停滞している。技術の実戦普及スピードに対して国際規制の整備が大幅に遅れているという構図は、今回の事案によってより鮮明になった。

詳細はAutonomous AI drones are now killing humans, and there's no going backを参照していただきたい。