AIエージェントの「キルスイッチ」が産業化する一方、各社は全速前進 — 「減速」を訴えながら賭けを倍増させる矛盾の一週間

9月18日、SiliconAngleが「For AI agents, it's the best of times, it's the worst of times」と題した記事を公開した。AIエージェントを巡る急速な商業展開と、同時に高まる安全性への懸念という相反する動きが一週間に凝縮された現状について詳しく紹介されている。

「減速」を語りながら「全速前進」する矛盾

今週のAI業界を一言で表すなら、「言っていることとやっていることが真逆」だ。

まず規制・安全側の動きから見る。フロンティアモデル企業から「AIが人類を滅ぼす可能性がある」と危惧する研究者が相次いで離脱したことを受け、Anthropic CEOのDario Amodeiがモデルリリースの速度に対する懸念を表明し、OpenAI CEOのSam AltmanとxAI・Tesla・SpaceX CEOのElon Muskもこれに同調した。Anthropicはさらに、AIの進化速度を監視するための実用的な指標も公開している。

しかし、この「減速論」が本気かどうかには疑問符がつく。SiliconAngleは「中間選挙（※本記事が想定する2026年11月の中間選挙）が終わるまで注目を逸らすための時間稼ぎではないか」と率直に指摘している。ワシントンの動きも鈍い。共和党のJohn Kennedy上院議員はAI法案の見通しを問われ、「今の議会はガスも通せない」と答えた。

一方、AI Infra Summitでは数百社のベンダーがプロセッサ、データベース、光ネットワーク、特殊メモリ、ネットワーク機器を売り込み、インフラ整備は加速の一途だ。不動産サービス大手JLLのCTO、Yao Morinはパネルでこう述べた。

「昨年のAIはモデルについてだった。今年のAIはインフラがすべてだ。」

AIエージェントの「キルスイッチ」が急増

AIエージェントのセキュリティリスクへの対応として、今週だけで複数のプロダクトが立て続けにリリースされた点は見逃せない。

Exaforce ― 暴走したAIエージェントを止めるキルスイッチ機能を追加
Eve Security ― 同様のエージェント制御機能を提供
Cohesity ― 問題が発生したAIエージェントをロールバックする「Agent Resilience」機能
Stackhawk ― コーディング中のエージェントのセキュリティ欠陥をリアルタイム修正
Arcjet ― 本番環境でのAIエージェントを追跡・制御するランタイムセキュリティ

「エージェントが意図しない動作をしたときに止める手段」という需要が、産業として成立しつつあることを示している。

SalesforceはAgentforceで「賭け倍増」、Splunkもプラットフォームをエージェント中心に再構築

サンフランシスコで開催されたSalesforceの年次カンファレンス「Dreamforce」では、CEO Marc Benioffがエージェントをソフトウェアの次世代と位置づけ、**Agentforce**（コンポーザブルエージェントを活用したプラットフォーム）を発表した。戦略の核心は、エージェントのインターフェース部分をAWSやGoogle Cloudなどソフトウェアパートナーに委ねつつ、自社はバックエンド基盤とSlackをエージェントへの「玄関口」として押さえるというものだ。

興味深いのはBenioffの発言の矛盾だ。彼は同じ口で「AI企業のアプローチはソーシャルメディアに似ており、子どもたちを傷つけた」と批判しながら、具体的な対策は何も示さなかった。

SalesforceだけでなくSplunkも今週、**プラットフォーム全体をエージェント中心に再構築**した。「エージェンティフィケーション」（agentification）は、個別製品の機能追加ではなくプラットフォームの設計思想そのものになりつつある。

資金調達：一週間でこの規模

AIエージェント関連だけでも今週は多数の資金調達が報じられた。主なものを抜粋する。

Cohere × Aleph Alpha合併：報道ベースで200億ドル規模
Factory（自己改善型ソフトウェア開発プラットフォーム）：2億ドル調達
Profound（AI上でのブランド可視性向上）：1億8000万ドル
Arcee AI（オープンウェイトモデル開発）：評価額10億ドル超
CADDi（製造業向けAI）：評価額12億ドルで1億1400万ドル調達
AIUC（AIエージェント認証）：4000万ドル

Gartnerは2026年の世界AI支出が前年比49.5%増になると予測している。

規制と市場の非対称

米上院は今週、暗号資産を連邦レベルで規制するClarity Actを否決した一方、SECはトークン化株式取引に対して5年間の証券法適用免除を認めた。AIとは直接関係しないが、「規制が追いつかないまま市場が動く」という構図はAIと共通している。

OpenAI、Anthropic、Googleが秘密裏にAI安全性での協力体制を構築したと報じられたのも今週だ。表の「競争」と裏の「協調」が同時進行している。

詳細はFor AI agents, it's the best of times, it's the worst of timesを参照していただきたい。