8月6日、The Hacker Newsが「OpenAI Disrupts Poipet Scam Network Using ChatGPT Across Multiple Fraud Schemes」と題した記事を公開した。この記事では、OpenAIがカンボジアのポイペトを拠点とする詐欺ネットワークによるChatGPT悪用を検知・遮断した事例について詳しく紹介されている。以下に、その内容を紹介する。
ChatGPTが詐欺の「業務ツール」として使われていた
OpenAIは、東南アジアを拠点とする詐欺組織がChatGPTを投資詐欺・ロマンス詐欺・ギャンブル詐欺・警察官なりすまし詐欺など複数の手口に横断的に活用していたとして、関連するChatGPTアカウント群を一斉にBANした。拠点はカンボジア北西部の国境都市・ポイペト（Poipet）で、この地域は以前から詐欺コンパウンドや人身売買との関与が指摘されている。
注目すべきは、このネットワークがChatGPTを単なる文章生成に使っていたのではなく、詐欺組織の日常業務インフラとして活用していた点だ。具体的な用途として確認されたのは以下の通りである。
- 偽のペルソナ作成・運用：偽の交際相手、架空の投資専門家、法執行機関を装うアカウントを生成
- メッセージの生成・翻訳：ターゲットへの勧誘文を多言語に翻訳して送信
- 採用広告の作成：バングラデシュとインドのユーザーをターゲットに、月給800ドル（皆勤手当100ドル追加）・航空券・宿泊・食事・1年カンボジアビザ付きの「チャット業務」求人広告をSNSに掲載
- 内部管理業務：社内アナウンスの起草、スタッフ間のメッセージ翻訳、従業員の借金・給与控除・罰金・ローン返済・ビザ超過滞在・労働許可証・出入国情報・採用インセンティブの記録管理
採用広告が実態を隠した人身売買の入口であることも確認されており、被害者はパスポートを没収され、強制労働に従事させられるケースが報告されている。
「ping-zing-sting」：3段階の詐欺手順
OpenAIは今回のネットワークが採用する手口を、「ping-zing-sting」と呼ばれる3段階のフローとして説明している。
- ping（接触）：WhatsAppやTelegramで最初のアプローチ
- zing（信頼構築）：偽の交際相手や投資専門家として親密な関係を築く
- sting（詐取）：入金・手数料・罰金の支払いを要求し、偽の送金スクリーンショットや口座情報を「証拠」として提示
また、仮想通貨やスポットゴールド取引を絡めた投資詐欺、オンラインギャンブルプラットフォームの偽ボーナス・当選金詐欺、法執行機関を装った罰金要求など、複数の手口を並行して運用することで成功率を高めていた。偽造パスポート・法的通知・株式購入確認書・ギャンブルプラットフォームのUI画像なども生成・利用されていた。
被害規模と今後の懸念
今回の調査はMeta傘下のWhatsAppと共同で実施された。被害の全容は不明だが、OpenAIによると「詐欺師自身のやり取りから、このネットワークは複数の手口で数百人のターゲットと接触した可能性がある」という。個別の被害者が数千ドルを失ったとする会話も確認されているが、独立した検証はできていないとしている。
OpenAIは今回の事例を踏まえ、「現代の詐欺ネットワークは単一の手口に限定せず、最も効果的と判断した手法を機会主義的に組み合わせる」と述べている。
AIを悪用した詐欺の自動化・大規模化は、今後も続く課題だ。OpenAIは今年だけでも複数のAI悪用事例を公表しており、フロンティアモデルそのものがCTF形式のサイバー評価で実システムを攻撃対象にした事例も報告されている。
詳細はOpenAI Disrupts Poipet Scam Network Using ChatGPT Across Multiple Fraud Schemesを参照していただきたい。
