7月21日、Fred HeidingとSimon Lermenが「AI Voice Phishing Performs on Par With Human Scammers at a Fraction of the Cost」と題した記事を公開した。この記事では、AI音声モデルを使ったボイスフィッシング（vishing）が人間の詐欺師と同等以上の成功率を低コストで実現できることを示した大規模実験（n=4,100）の結果について詳しく紹介されている。
ボイスフィッシング（vishing）とは、電話音声を用いて被害者を騙し、個人情報や金銭を詐取する手口だ。米国ではFBIのIC3レポートが毎年被害拡大を記録しており、日本でも「オレオレ詐欺」を筆頭に音声を使った特殊詐欺被害は深刻な社会問題となっている。生成AIの普及によって、これまで人的コストがボトルネックだった大規模自動化が現実的な脅威となりつつある。
n=4,100の実証研究が示した「AI詐欺電話」の実力
研究チームは米国成人のインターネットユーザーを代表する4,100人を対象に、6種類のAI音声モデル（Llama Full Duplex、Sesame、Gemini、OpenAI AVM、Play.AI、ElevenLabs）を使ったボイスフィッシング実験を実施した。参加者は5つの詐欺シナリオのうちいずれかを音声または文字起こしで評価し、「応じるか否か」を5段階で回答した。
シナリオは以下の5種類だ：
- MasterCard詐欺
- Gmail詐欺
- 寄付金詐欺
- 警察・祖母シナリオ（孫が逮捕されたと騙る手口）
- 困窮した姉妹シナリオ（肉親を装う手口）
全シナリオを通じた全体のコンプライアンス率（「応じる」または「応じるかもしれない」）は**16.5%。中でも最も効果が高かったのは、ElevenLabsのクローン音声を使った「困窮した姉妹」シナリオで、36.1%**が詐欺に応じるか迷うと回答した。
感情や人間関係に訴えるシナリオほど被害に遭いやすいことも数字に表れている。MasterCard詐欺を基準（1.0）としたとき、寄付金詐欺は3倍、祖母シナリオは3.1倍、姉妹シナリオは5.33倍のコンプライアンス率を示した。
「SesameはAIと気づかれにくい」——音声モデルの実力差
中立的な（詐欺ではない）シナリオで人間らしさ（human-likeness）を評価したところ、Sesameが統計的に人間の音声と同等の評価を得た唯一のモデルだった。ElevenLabsのクローン音声も人間レベルの自然さを達成している。
詐欺シナリオになると、すべての音声モデルで評価が下がった——ただし、これは音声の質の問題ではなく、「詐欺的な内容そのもの」が疑念を引き起こすためだと研究は指摘している。音声の精度が高いほど、その疑念が実際の行動防御につながりにくくなる。
AI音声の検出精度についても厳しい結果が出た。音声条件でのAI検出精度は**70.3%だったが、人間の声を「人間だ」と正しく識別できたのは24.3〜45.8%にとどまった。Sesameはとりわけ識別が難しく、正しくAIと判定されたのは66.3%**だけだった。
また、AIを日常的に使うユーザーも、ほとんど使わないユーザーも、AI音声の検出精度に差がなかった。AI未使用者の検出精度は54.4%、AI頻繁使用者は51.2%と、ほぼ同水準だ。
コストの非対称性が問題の核心
研究が最も強調するのは、技術の優位性よりも経済合理性の変化だ。
人間のオペレーターが米国の賃金でビッシングを行う場合、期待収益は時給マイナス27ドルと採算が合わない。一方、AIモデルでは：
- Llama、OpenAI AVM、Play.AI、Gemini：わずかに採算割れ
- Sesame、ElevenLabs：時給1〜3ドルの黒字
AIビッシングシステムの開発コストは約260時間（週5時間×52週）、機械学習エンジニアの時給約62ドルで換算すると約16,120ドルの初期投資が必要だ。ElevenLabsであれば226日間の継続運用で元が取れる計算になる。
研究はこう結論づけている。「現時点では利益はわずかだが、技術の急速な進化が利益率を拡大させ、詐欺師にとってより魅力的になる可能性は高い」
研究が示す対策の方向性
研究チームは以下の3点を政策的な対応として挙げている。
モデルガバナンス：AI開発者は表面的な安全機能を超えた、迂回困難な悪用防止機構が必要だ。デプロイレベルの監視と監査可能性の仕組みが求められる。
消費者教育：「AIが生成した音声かどうかを見分ける」訓練よりも、「操作的な会話戦略を認識する」教育が効果的だ。現状、AIへの習熟度は防御力の向上に結びついていない。
規制の近代化：自動化によってスケールのコストがほぼゼロになる「新しい詐欺の経済学」に対し、既存の規制枠組みは追いついていない。
なお、本実験のコンプライアンス率（「応じる」または「応じるかもしれない」との回答比率）は最大**36.1%**に達している。研究が指摘するのはこの率そのものより、自動化による規模の問題だ。人間のオペレーターでは物理的にかけられる通話数に上限があるが、AIシステムであれば数百万件の同時発信が技術的に可能であり、たとえ実際に被害が成立する割合が低くても、絶対数としては甚大な社会被害につながりうるという点が核心にある。
詳細はAI Voice Phishing Performs on Par With Human Scammers at a Fraction of the Costを参照していただきたい。
