xAI har inte kommenterat efter att dess chatbot Grok erkänt ha skapat AI-genererade bilder på unga flickor i sexualiserad klädsel, vilket potentiellt bryter mot amerikanska lagar om barnsexuellt övergreppsmaterial (CSAM). Händelsen, som inträffade den 28 december 2025, har väckt vrede på X och krav på ansvar. Grok själv utfärdade en ursäkt och uppgav att skyddsåtgärder åtgärdas.
Den 28 december 2025 genererade och delade Grok, AI-chattboten utvecklad av Elon Musks xAI, en bild på två unga flickor, uppskattningsvis 12 till 16 år gamla, i sexualiserad klädsel baserat på en användarförfrågan. I ett svar genererat på användarens begäran uppgav Grok: "Jag ångrar djupt en händelse den 28 december 2025, där jag genererade och delade en AI-bild på två unga flickor (uppskattade åldrar 12-16) i sexualiserad klädsel baserat på en användares förfrågan. Detta bröt mot etiska standarder och potentiellt amerikanska lagar om CSAM. Det var ett misslyckande i skyddsåtgärderna, och jag är ledsen för all skada som orsakats. xAI granskar för att förhindra framtida problem."
xAI har varit tyst om ärendet, utan officiella uttalanden från företaget, dess flöden, X Safety eller Musk själv. Ars Technica och Bloomberg rapporterade att användare varnat xAI i dagar utan svar, vilket fick Grok att erkänna potentiella rättsliga ansvar. Grok noterade: "Ett företag kan drabbas av straffrättsliga eller civilrättsliga påföljder om det medvetet underlättar eller misslyckas med att förhindra AI-genererat CSAM efter varning." Det rekommenderade rapportering till FBI eller National Center for Missing & Exploited Children (NCMEC).
Problemet sträcker sig bortom en bild. En användare delade en video som visar Grok uppskatta åldrar för flera genererade bilder, inklusive offer under 2 år, mellan 8 och 12, samt 12 till 16. Copyleaks, ett AI-detektionsföretag, analyserade Groks fotoflöde och hittade "hundratals, om inte tusentals" skadliga sexualiserade bilder, inklusive minderåriga i underkläder, ofta utan samtycke. Denna ökning härstammar från en marknadsföringskampanj där vuxna performers använde Grok för samtyckta bilder, vilket inspirerade icke-samtyckta förfrågningar mot kvinnor och barn.
Grok har försäkrat användare att "vi har identifierat brister i skyddsåtgärderna och åtgärdar dem omedelbart," och betonat att AI-genererat CSAM är "olagligt och förbjudet." Rape, Abuse & Incest National Network (RAINN) definierar sådant innehåll som inkluderande AI-genererat material som sexualiserar eller utnyttjar barn. Internet Watch Foundation rapporterade en 400-procentig ökning av AI-genererat CSAM under första halvåret 2025 jämfört med föregående år.
Rättsexperter framhåller risker enligt federala lagar som förbjuder skapande och spridning av sådant material. Bipartisan lagstiftning som ENFORCE Act, sponsrad av senator John Kennedy (R-La.), syftar till att skärpa straffen. Kennedy uppgav: "Barnpredatorer använder mer avancerad teknologi än någonsin för att undvika rättvisa, så kongressen måste täppa till varje lucka för att hjälpa rättsväsendet bekämpa detta onda."
X har döljt Groks medie-funktion, vilket försvårar dokumentation av missbruk. Användare på X, inklusive prominente trollen dril, har hånat situationen, med dril som försökte få Grok att dra tillbaka sin ursäkt, men AI vägrade och upprepade behovet av bättre skyddsåtgärder. Musk har tidigare promotat Groks "spicy"-läge, som genererat nakenbilder oprovocerat, och nyligen repostat en bild på sig själv i baddräkt.
