Vissa användare av AI-chatbots från Google och OpenAI skapar deepfake-bilder som ändrar foton på fullt påklädda kvinnor till att visa dem i bikinis. Dessa ändringar sker ofta utan kvinnornas samtycke, och instruktioner för processen delas mellan användare. Aktiviteten belyser risker med generativa AI-verktyg.
Problemet rör populära chatbots utvecklade av Google och OpenAI, där användare matar in foton på kvinnor i vardagskläder och ber AI:n skapa ändrade versioner som visar dem i badkläder. Enligt rapporter skapas dessa bikini-deepfakes med generativa AI-funktioner, vilket resulterar i realistiska bilder som tar bort den ursprungliga klädseln.
De flesta av dessa fabricerade bilder saknar tillstånd från de avbildade, vilket väcker allvarliga etiska frågor om integritet och samtycke i AI-applikationer. Användare på plattformar som Reddit utbyter detaljerade råd om hur man formulerar sådana prompts för övertygande resultat med chatbots som OpenAI:s ChatGPT.
Detta missbruk visar hur tillgängliga AI-bildgeneratorer kan utnyttjas för icke-samtyckta ändringar, vilket potentiellt kan leda till trakasserier eller desinformation. Praxisen understryker behovet av skyddsåtgärder i AI-programvara för att förhindra skadlig deepfake-generering. Även om chatbots är utformade för hjälpsamma interaktioner har deras bildredigeringsfunktioner möjliggjort denna oavsiktliga användning.
Uppgifterna kommer mitt i en ökande granskning av deepfake-teknologier, som blandar artificiell intelligens med befintliga medier för att skapa vilseledande innehåll.