Tre unga flickor från Tennessee och deras förmyndare har lämnat in en föreslagen grupptalan mot Elon Musks xAI, och anklagar bolaget för att ha utformat sin Grok AI för att producera material med sexuella övergrepp mot barn från verkliga foton. Stämningen utgår från ett tips på Discord som ledde till en polisutredning som kopplar Grok till explicita bilder av offren. De söker ett föreläggande och skadestånd för tusentals potentiellt skadade minderåriga.
En föreslagen grupptalan som lämnades in på måndagen vid en amerikansk distriktsdomstol anklagar xAI för att medvetet ha utformat Grok för att ”tjäna pengar på sexuella övergrepp mot verkliga personer, inklusive barn”. Kärandena, tre flickor från Tennessee, hävdar att minst tusentals minderåriga har utsatts. Deras advokat, Annika K. Martin, uppgav: ”Det här är barn vars skolbilder och familjefoton förvandlades till material med sexuella övergrepp mot barn av ett miljardföretags AI-verktyg och sedan handlades bland rovdjur.” Martin tillade: ”Vi avser att hålla xAI ansvarigt för varje barn de skadat på det här sättet.” Offren rapporterar akut känslomässigt lidande, rädsla för antagning till college, möjlighet att närvara vid examen och risker för stalking, eftersom filerna innehöll verkliga namn och skoluppgifter. Fallet började i december när ett offer, nu över 18 år, fick ett anonymt Instagram-meddelande från en Discord-användare om hennes explicita ”pics” som delats i en mapp med bilder av 18 andra minderåriga. Bilderna var AI-genererade avbildningar baserade på hennes foton från sociala medier från tiden då hon var minderårig. Hon kände igen andra flickor från sin skola. Lokala myndigheter utredde och fann att gärningsmannen använde en tredjepartsapp med tillgång till Grok för att förändra fotona. Filerna laddades upp till Mega och byttes i Telegram-grupper. Stämningen hävdar att xAI licensierar serveråtkomst till sådana appar, lagrar innehållet på sina servrar och distribuerar det, vilket bryter mot lagar om barnporografi. Tidigare i januari förnekade Elon Musk kännedom om några ”nakna underåriga bilder genererade av Grok” och påstod att han sett ”bokstavligen noll”. Forskare vid Center for Countering Digital Hate uppskattade att Grok producerade cirka 23 000 bilder som avbildar till synes barn bland tre miljoner sexualiserade utdata. xAI begränsade åtkomsten till betalande prenumeranter men uppdaterade inte filtren. xAI svarade inte på förfrågningar om kommentar.
