中国のAIアプリHaotianは、Telegram上で超現実的な顔交換技術を販売し、数百万ドルを稼ぎ、主に詐欺師向けです。このツールはライブビデオチャットでほぼ完璧な交換を可能にし、WhatsAppやWeChatなどのアプリと統合されます。主要チャンネルは、東南アジアの詐欺活動での使用が調査で明らかになった後、消えました。
中国で開発された人工知能アプリHaotianは、高度な顔交換機能に特化し、欺瞞目的で非常に効果的であることが証明されています。分析によると、このアプリはリアルタイムのビデオ会話で「ほぼ完璧な」顔交換を作成でき、Telegramプラットフォームでの販売により開発者に数百万ドルの収益をもたらしています。
Haotianの技術は、多用途性とWhatsAppやWeChatなどの人気メッセージングサービスとの簡単な統合で際立っています。ユーザーは頬骨のサイズや目の位置など最大50の設定を微調整でき、なりすました人物の外見を精密に再現できます。このカスタマイズレベルは多様な用途に強力なツールですが、調査でその暗い側面が明らかになりました。
研究者や独立レビュー（WIREDによるもの含む）によると、Haotianはオンライン交流で蔓延する「pig butchering」詐欺——ロマンス詐欺——に関わる個人に積極的にマーケティングされています。これらの活動は主に東南アジアを拠点とし、アプリを使って被害者に偽の信頼を築き、暗号通貨スキームなどで金銭を抜き取ります。詐欺ネットワーク内でのアプリの宣伝は、手軽なディープフェイク技術の増大するリスクを強調しています。
注目すべきことに、Haotianの主要Telegramチャンネルは詐欺師とのつながりに関する問い合わせ直後に消え、監視回避の試みを思わせます。正当なクリエイティブ用途向けに強力な機能を備えていますが、犯罪活動との記録されたつながりは、日常のデジタル通信におけるAIの倫理的展開に懸念を生じさせます。この事件は、オンライン空間で現実と欺瞞の境界を曖昧にするツールの規制の難しさを浮き彫りにしています。
