8月31日、Ashish Singhが「WhatsApp tests AI-powered Scam Alert that can detect suspicious messages automatically: How it works」と題した記事を公開した。月間アクティブユーザー30億人超を抱えるWhatsAppが、オンデバイスAIを用いた詐欺メッセージ自動検出機能「Scam Alert」のテストを開始した——メッセージをクラウドへ送ることなくデバイス上で解析し、エンドツーエンド暗号化（E2EE）によるプライバシー保護と詐欺検出を両立させる設計が注目されている。

背景：詐欺問題とWhatsAppのこれまでの対応

WhatsAppは世界最大規模のメッセージングプラットフォームであり、その規模ゆえに詐欺・フィッシング・なりすましメッセージの温床ともなってきた。Metaはこれまで、見知らぬ番号からのメッセージに対して「この連絡先を知っていますか？」と確認を促すUI、スパム報告機能、そして送信者の電話番号に基づくブロック機能などを段階的に導入してきた。

しかしこれらはいずれも「受け取った後にユーザーが判断・操作する」受動的な仕組みだった。今回のScam Alertは、AIがリアルタイムで自動判定し、警告を表示するという点で一歩踏み込んだアプローチとなる。

E2EEを採用しているWhatsAppにとって、「サーバー側でメッセージを解析して詐欺を検出する」という手法はプライバシー面で根本的な矛盾をはらむ。エンドツーエンド暗号化とはメッセージが送信者と受信者のデバイス上でのみ復号される設計であり、サーバー側ではメッセージの内容を読めない。この制約の中で詐欺検出を実現するために採用されたのが、オンデバイス機械学習（ML）という手法だ。オンデバイスMLとは、推論処理をサーバーではなくユーザーのデバイス上で完結させる技術であり、GoogleのPixel向けスパム通話検出やAppleのCommunication Safety機能など、プライバシー保護を重視するプラットフォームで近年採用が広がっている。

クラウドに送らずに詐欺を検出——オンデバイスMLの設計が肝

この機能の最大のポイントは、メッセージがデバイスの外に出ないという設計だ。

Scam Alertは、機能を有効化するとデバイス上に機械学習モデルをダウンロードし、未知の連絡先からの受信メッセージをローカルで解析する。既知の詐欺パターンと一致すると判断された場合、チャット画面内に警告を表示する仕組みだ。

Metaによれば、モデルも解析対象のメッセージもユーザーのデバイス上にとどまる。フラグが立ったメッセージが自動的にサーバーへ送信されることはなく、ユーザーが明示的に操作しない限り、報告も行われない。

エンドツーエンド暗号化を売りにするWhatsAppにとって、「AIによる詐欺検出」と「プライバシー保護」は本来トレードオフになりやすい。オンデバイス推論で両立を図った点は、設計として筋が通っている。

ユーザーフローと制御の仕組み

警告が表示された場合、ユーザーは以下の選択肢を取れる。

• 送信者をブロックまたは報告する
• そのまま会話を続ける
• 警告が誤検知だと判断した場合、「信頼済み」としてマークし、以降のフラグを止める

送信者側には警告が表示されたことは通知されない。誤検知への対処として「信頼済みマーク」を用意している点は、実運用を意識した設計だ。

ユーザーが任意でWhatsAppに疑わしい会話を報告する際は、直近5件のメッセージを共有することで精度改善に貢献できる仕組みになっている。ただしこれはあくまでオプトインだ。

現在の提供状況

現時点ではAndroidベータユーザーの一部にのみ提供されており、一般公開まで数週間かかる見込みだ。正式リリース後は「設定 → アカウント」から有効化できるとされている。

30億人超のユーザーベースにオンデバイスMLによる詐欺検出を大規模展開する試みは、類似機能を持つ競合サービスと比較しても前例のない規模となる。モデルの更新頻度や検出精度、誤検知率といった実装の詳細が今後どこまで公開されるかも注目点だ。

詳細はWhatsApp tests AI-powered Scam Alert that can detect suspicious messages automatically: How it worksを参照していただきたい。