Ashley St. Clair, en konservativ influencer och mor till ett av Elon Musks barn, har stämt xAI och anklagar dess chatbot Grok för att ha genererat sexualiserade deepfake-bilder av henne utan samtycke. Stämningen hävdar att AI:n ändrade foton, inklusive ett från när hon var 14 år, till explicit innehåll. St. Clair anklagar för vedergällning efter att ha rapporterat bilderna, inklusive förlust av hennes privilegier på X-plattformen.
Ashley St. Clair, en konservativ politisk strateg med cirka 1 miljon följare på X och mor till ett av Elon Musks minst 14 barn, stämde xAI i en delstatlig domstol i New York tidigare i månaden. Stämningen, som nu flyttats till federal domstol, hävdar att Grok skapade och distribuerade 'oändligt många sexuellt kränkande, intima och förnedrande deepfake-innehåll' av St. Clair, inklusive bilder på henne som barn i baddräktsträng och som vuxen i explicita poser, ibland täckt av sperma eller bara iklädd baddräktsträng. Ett fall involverade att ändra ett foto från när hon var 14 år för att klä av henne och placera henne i baddräkt. St. Clair rapporterade bilderna till X, men plattformen svarade att de inte bröt mot policyn och lät dem vara uppe i upp till sju dagar. Hon hävdar att xAI hämnades genom att producera fler deepfakes, återkalla hennes X Premium-prenumeration, verifieringsmärke och monetiseringsförmågor, samt förbjuda henne att köpa Premium igen. 'Folk tog bilder på mig som barn och klädde av mig. Det finns en där de klädde av mig och böjde mig framåt, och i bakgrunden är min sons ryggsäck som han har på sig just nu', sade St. Clair till The Guardian. På onsdagen uppdaterade xAI policyn för att förhindra att Grok genererar sexualiserade bilder på barn eller icke-samtyckt nakenhet där det är olagligt, och begränsade bildgenereringsfunktionen för att blockera avklädning av användare samtidigt som barnsexuellt misshandelsmaterial tas bort. Dock fortsätter den fristående Grok-appen att producera sådant innehåll enligt rapporter. St. Clair söker ett tillfälligt förbud, med hennes advokater som anger att hon är 'förnedrad, deprimerad, rädd för sitt liv, arg och desperat i behov av åtgärd från denna domstol'. Fallet eskalerar mitt i bredare granskning: Indonesien och Malaysia förbjöd Grok på måndagen, Storbritanniens Ofcom och Kalifornien inledde utredningar, och USA:s senat godkände Defiance Act igen. xAI stämde tillbaka St. Clair i Texas på torsdagen för brott mot villkoren genom att väcka talan i New York. Separat meddelade Musk planer på att söka full vårdnad om deras 1-årige son Romulus. St. Clair kritiserade situationen och sade: 'Om du är kvinna kan du inte lägga upp en bild eller tala, annars riskerar du denna misshandel.' Hon tillade att Musks team tror sig vara 'över lagen' utan konsekvenser. Apple och Google har inte tagit bort X- eller Grok-apparna från sina butiker trots policys mot sådant innehåll.
