Aplikasi AI China bernama Haotian telah menghasilkan jutaan dengan menjual teknologi pertukaran wajah ultra-realistis di Telegram, terutama kepada penipu. Alat ini memungkinkan pertukaran hampir sempurna selama obrolan video langsung dan terintegrasi dengan aplikasi seperti WhatsApp dan WeChat. Saluran utamanya menghilang setelah penyelidikan mengungkap penggunaannya dalam operasi penipuan Asia Tenggara.
Aplikasi kecerdasan buatan Haotian, yang dikembangkan di China, mengkhususkan diri pada kemampuan pertukaran wajah canggih yang terbukti sangat efektif untuk tujuan penipuan. Menurut analisis, aplikasi ini memungkinkan pengguna membuat pertukaran wajah "hampir sempurna" dalam percakapan video secara real-time, menghasilkan jutaan dolar bagi penciptanya melalui penjualan di platform Telegram.
Teknologi Haotian menonjol karena fleksibilitas dan kemudahan integrasinya dengan layanan pesan populer seperti WhatsApp dan WeChat. Pengguna dapat menyesuaikan hingga 50 pengaturan berbeda, termasuk penyesuaian ukuran tulang pipi dan posisi mata, untuk mereplikasi penampilan orang yang ingin mereka tiru dengan sangat mirip. Tingkat penyesuaian ini menjadikannya alat yang kuat untuk berbagai aplikasi, tetapi penyelidikan telah menyoroti sisi gelapnya.
Peneliti dan ulasan independen, termasuk yang dilakukan oleh WIRED, menunjukkan bahwa Haotian dipasarkan secara aktif kepada individu yang terlibat dalam penipuan "pig butchering"—sejenis penipuan romansa yang lazim dalam interaksi online. Operasi-operasi ini, yang sebagian besar berbasis di Asia Tenggara, mengeksploitasi aplikasi untuk membangun kepercayaan palsu dengan korban sebelum mengekstrak uang, sering melalui skema kripto. Promosi aplikasi dalam jaringan penipuan menggarisbawahi risiko yang semakin besar dari teknologi deepfake yang dapat diakses.
Secara mencolok, saluran Telegram utama Haotian menghilang segera setelah penyelidikan mengenai hubungannya dengan penipu, menunjukkan upaya untuk menghindari pengawasan. Meskipun platform ini menawarkan fitur kuat untuk penggunaan kreatif yang sah, hubungannya yang terdokumentasi dengan aktivitas kriminal menimbulkan kekhawatiran tentang penerapan etis AI dalam komunikasi digital sehari-hari. Insiden ini menyoroti tantangan dalam mengatur alat yang mengaburkan batas antara realitas dan penipuan di ruang online.