En kinesisk AI-app vid namn Haotian har genererat miljoner genom att sälja ultrarealistisk ansiktsbytes-teknik på Telegram, främst till bedragare. Verktyget möjliggör nästan perfekta byten under livevideochattar och integreras med appar som WhatsApp och WeChat. Dess huvudkanal försvann efter förfrågningar som avslöjade användning i sydostasiatiska bedrägerier.
Den artificiella intelligens-applikationen Haotian, utvecklad i Kina, specialiserar sig på avancerade ansiktsbytesfunktioner som visat sig mycket effektiva för bedrägliga syften. Enligt analyser tillåter appen användare att skapa "nästan perfekta" ansiktsbyten i realtidsvideokonversationer, och har tjänat dess skapare miljontals dollar genom försäljning på Telegram-plattformen.
Haotians teknik utmärker sig med sin mångsidighet och enkla integration med populära meddelandetjänster som WhatsApp och WeChat. Användare kan finjustera upp till 50 olika inställningar, inklusive justeringar av kindbensstorlek och ögonposition, för att noggrant efterlikna den person de vill imitera. Denna grad av anpassning gör den till ett kraftfullt verktyg för olika tillämpningar, men undersökningar har belyst dess mörkare sida.
Forskare och oberoende recensioner, inklusive de från WIRED, visar att Haotian aktivt marknadsförts till individer involverade i "pig butchering"-bedrägerier – en typ av rombedrägeri vanligt i onlinainteraktioner. Dessa operationer, mestadels baserade i Sydostasien, utnyttjar appen för att bygga falskt förtroende hos offer innan pengar extraheras, ofta via kryptovalutascheman. Appens marknadsföring inom bedrägerinätverk understryker de växande riskerna med tillgänglig deepfake-teknik.
Noterbart försvann Haotians primära Telegram-kanal kort efter förfrågningar om dess kopplingar till bedragare, vilket tyder på ett försök att undvika granskning. Även om plattformen erbjuder robusta funktioner för legitima kreativa användningar, väcker dess dokumenterade band till kriminella aktiviteter oro kring AI:s etiska användning i vardaglig digital kommunikation. Denna händelse belyser utmaningarna i att reglera verktyg som suddar ut gränsen mellan verklighet och bedrägeri i digitala utrymmen.