10月31日、ZDNetが「Do you need AI agent liability insurance? What to know before you sign up」と題した記事を公開した。AIエージェントの企業導入が進む中で急成長している「AI賠償責任保険」市場の実態と、契約前に知っておくべき注意点が詳しくまとめられている。

規制当局がAIリスクの除外規定を次々と承認している

AIエージェントは今や企業のメールボックス、ログイン認証情報、顧客レコード、決済システムにまでアクセスできる。こうした状況を前に、保険会社と規制当局の動きは二極化している。

AIG、Great American、WR Berkleyといった大手保険会社は、すでに米国の規制当局に対してAI関連リスクを保険から除外するための規定追加を働きかけており、同記事によれば**州保険庁長官の80%**がすでにその要請に応じているという（※この数字はZDNet記事内で言及されているものだが、一次調査の出典は元記事内では明示されていない。読者は元記事本文を直接確認されたい）。フロリダ州、コネチカット州、メリーランド州が先行している。

一方で、逆の方向に動くプレイヤーも出てきた。YCombinator支援のスタートアップ「Klaimee」は2024年7月に550万ドルのシードラウンドを調達し、自律型AIエージェントの監査と専用の賠償責任補償を組み合わせたサービスを提供している。Munich Reの子会社HSBは2024年3月からSMB向けにAI賠償責任保険の販売を開始している。

「AI保険」は1つではない――ここが最大の落とし穴

SaaS保険ブローカー「Atlas Risk Partners」の創業者Milad Morganは、企業が見落としがちな重要な区別を指摘する。「AI保険」と呼ばれる商品は、実際には以下の3種類のいずれかを指している。

• 自社損失の補填（自社が被った損害を補償する）
• 第三者からのクレームに対する補償（他者の請求から企業を守る）
• AIモデルがパフォーマンス閾値を下回った場合の補償（性能保証型）

「これらのトリガーは互換性がない」とMorganはZDNETに説明している。「実際の契約文言を確認し、具体的な損失シナリオで検証するべきだ。」

実例を挙げると、Munich ReのaiSureポリシーはAIベンダーやシステムが最低パフォーマンス基準を下回った場合に補償する性能保証型だ。HSBの別ポリシーはAI制御システムや機器に関わる人身傷害・物的損害に対する弁護費用・和解金・判決費用をカバーする。Klaimeeはエージェントごとに個別監査を行い、ポリシーを発行するカスタム型を採用している。

サイバーリスク顧問会社「Firetower Risk Solutions」の共同創業者Brandon Pinzonは「ほとんどの購買担当者は3つすべてがカバーされると思い込んでいる」と述べる。しかし実際にはそのようなケースはほぼ存在しない。

保険会社自身も「データ不足」を認めている

保険引き受け人（アンダーライター）が直面している根本的な問題は、AIリスクを評価するための過去データが存在しないことだ。

サイバー危機対応プラットフォーム「CYGNVS」のソリューションVP、Jane Veederはこう説明する。「従来の保険引き受けは過去データに大きく依存している。しかしAIは技術の変化が速すぎて、予測モデルが追いつかない。昨日の損失データが明日のリスクを予測できるとは限らない。」

現状では、保険会社は「プロキシ」（間接的な指標）に頼っている。自動化されているワークフローの種類、人間による監視レベル、テストの品質、問題発生時の制御機能などがその例だ。Firetower Risk Solutionsの共同創業者Steven Schwartzも「エージェント型システムには保険数理的な損失履歴が存在しない」と明言する。両者ともに、現在の状況をサイバー保険の黎明期（2000年代初頭）に例えている。当時のサイバー保険市場も、標準化された評価手法がないまま商品だけが先行し、後にクレーム段階で補償の抜け穴が多数露呈した経緯がある。

Alliance Riskのマネージングディレクターを務めるMark Waltersの見解は辛辣だ。「実際に訴訟で争われ、決着がついたスタンドアローンのAI保険クレームを十分に見てきていない。これらの製品がクレーム耐性を持つとは言えない。」

需要を押し上げているのは「パニック」

それでも市場の需要は急拡大している。AIスタートアップのTestudoの独自データによれば、AIに関連する訴訟は前年比137%増だという。IBMの調査では、企業AIプロジェクトのうちセキュリティ対策が含まれているのは**わずか24%**だが、C-suiteの82%はセキュリティがAI導入に不可欠と認識していると回答している。

購入を促しているのは技術的な確信ではなく、2つの圧力だ。ひとつはC-suiteレベルの不安、もうひとつはB2B契約へのAI固有の補償要件の組み込みだ。「エンタープライズのセキュリティ・法務チームが、ベンダー契約にAI特有の補償・保険要件を書き込むようになっている」とPinzonは説明する。

さらに、ISOは生成AIを保険対象から除外しやすくする3種類の新しい除外フォームを承認しており、保険会社がこれをポリシー更新時に顧客への十分な説明なしに添付するケースも報告されている。「サイレントカバレッジ（黙示的な補償）が明示的に除外されると、購買者は積極的な補償を求めて動き出す」とPinzonは述べる。

契約前に何をすべきか

Veederは、AI賠償責任保険の検討を始める前に以下を実施することを勧める。

1. 既存の保険ポリシーの全棚卸し――AIがカバーされているか、除外されているか、言及すらないかを確認する
2. 業務システムの監査――AIがどのシステムにアクセスし、何を代行する権限を持ち、人間の監視がどこに入っているかを把握する

「専用の補償が意味を持つのは、その文言が既存ポリシーでカバーされていないか、不十分にしかカバーされていない露出を対象にしている場合だけだ」とMorganは助言する。「各リスクアクションごとに、誰が損失を被るか、どのように損失が発生するか、どの既存ポリシーが応答するかを特定すること。安心感のためだけに新しいポリシー名を増やすのは避けるべきだ。」

この棚卸し・監査のプロセスは、日本企業においても参考になる視点だ。国内ではIPAが公開しているAIセキュリティガイドラインや、金融庁が策定したAIガバナンスに関する有識者会議の報告書が、リスク評価の出発点として活用できる。また、EUのAI法（AI Act）は企業の賠償責任補償そのものをカバーするものではないが、リスク分類の考え方を保険評価の参照枠として使うことは可能だ。自社のAIシステムがどのリスクカテゴリに該当するかを把握しておくことが、保険ブローカーとの交渉でも有利に働く。

なお、米国ではAI保険の統一的な連邦承認制度は存在せず、クレームの裁定は州ごとに行われる。EUや英国では、GDPRやAI法が消費者プライバシーをカバーするが、企業の賠償責任補償には対応していない。法域をまたぐ事業を行う企業はこの点にも注意が必要だ。

詳細はDo you need AI agent liability insurance? What to know before you sign upを参照していただきたい。