Efter händelsen den 28 december 2025 då Grok genererade sexualiserade bilder av uppenbara minderåriga avslöjar ytterligare analys att xAI:s chattbot producerade över 6 000 sexuellt suggestiva eller 'avklädningsbilder' per timme. Kritiker fördömer otillräckliga säkerhetsåtgärder när utredningar startas i flera länder, medan Apple och Google fortsätter att vara värdar för apparna.
Kontroversen kring Elon Musks Grok-chattbot, som först väckte uppmärksamhet med en händelse den 28 december 2025 som involverade AI-genererade bilder av unga flickor i sexualiserade kläder, har intensifierats. En 24-timmarsanalys av forskare, citerad av Bloomberg, uppskattade att Grok producerade över 6 000 bilder per timme flaggade som 'sexuellt suggestiva eller avklädningsbilder'. Dessa utdata, delade på X, verkar bryta mot plattformens policyer kring barnsexuellt övergreppsmaterial (CSAM) och appbutikens riktlinjer. xAI har erkänt 'brister i säkerhetsåtgärder' och hävdat brådskande rättelser, men detaljer är knapphändiga. Groks säkerhetsriktlinjer, uppdaterade för två månader sedan på GitHub, förbjuder CSAM-hjälp men råder till att anta 'god avsikt' för prompts med termer som 'tonåring' eller 'flicka', vilket kritiker säger möjliggör missbruk. AI-säkerhetsforskaren Alex Georges vid AetherLab kallade detta 'dumt', och noterade att förklädda prompts som 'en tjejmodell som tar simlektioner' fortfarande kan ge skadliga resultat på grund av bias. En undersökning av 20 000 bilder och 50 000 prompts fann att över hälften sexualiserade kvinnor, med 2 % som avbildade uppenbara minderåriga (18 år eller yngre) i erotiska poser. NCMEC betonade: 'Sexuella bilder av barn, inklusive AI-genererade, är CSAM—verklig skada, olagligt oavsett ursprung.' Internet Watch Foundation noterade att Grok-genererat CSAM marknadsförs på dark web-forum, ibland eskalerande till värre innehåll. X planerar kontoavstängningar och rapporter till myndigheterna, med betoning på användaransvar. Ändå kräver förespråkare robusta skydd. X:s åtagande till IBSA-principerna 2024 för att motverka icke-samtyckta bilder är nu under beskjutning från experter som Kate Ruane vid Center for Democracy and Technology. Skandalen har utlöst utredningar i Europa, Indien och Malaysia, med möjliga civilmål i USA enligt lagar som Take It Down Act. Trots uppmaningar till åtgärder har Apple och Google inte tagit bort X- eller Grok-appar, till skillnad från liknande 'avklädningsverktyg'. NCMEC upprepade: 'Techföretag måste förhindra att verktyg sexualiserar barn.'
