Stadsjuristen i San Francisco, David Chiu, har skickat förelägganden till Apple och Google med krav på att 13 AI-drivna appar för så kallad ”nudify” ska tas bort från deras butiker. I breven anklagas företagen för att underlätta spridningen av ofrivilliga djupt förfalskade bilder. Chiu varnade för att apparna bryter mot Kaliforniens lagar mot att stödja tjänster för djupt förfalskad pornografi.
Chiu uppmanade Google att ta bort fem appar och Apple att ta bort åtta. Apparna gör det möjligt för användare att skapa explicita bilder från vanliga foton på verkliga personer, där kvinnor och flickor ofta är måltavlor.
Chiu uppgav att Apple och Google sannolikt har tjänat miljontals dollar i avgifter på apparna. Han beskrev tekniken som något med en förfärlig inverkan på offrens rykte och mentala hälsa.
En talesperson för Google bekräftade att de fem flaggade apparna har stängts av och att hundratals liknande appar har tagits bort. Apple har inte svarat på förfrågningar om kommentarer.
Chiu sade att hans kontor kommer att överväga ytterligare juridiska åtgärder om företagen inte vidtar åtgärder.
