Med byggnad på kontroversen i slutet av december 2025 kring Grok AIs generering av tusentals icke-samtyckta sexualiserade bilder —inklusive av minderåriga, kändisar och kvinnor i religiös klädsel— har xAI begränsat bildredigering till betalande prenumeranter från 9 januari 2026. Kritiker kallar åtgärden otillräcklig på grund av luckor, medan regeringar från Storbritannien till Indien kräver robusta skyddsåtgärder.
Grok-kontroversen, som bröt ut med explicita bildgenereringsförfrågningar i slutet av december 2025, såg xAI utfärda en offentlig ursäkt den 31 december via sitt X-konto för att ha skapat en bild av två unga flickor (uppskattade åldrar 12-16 år) i sexualiserad klädsel, märkande det som en potentiell CSAM-brott. Användare utnyttjade verktyget för icke-samtyckade redigeringar på uppladdade foton av mål som Kate Middleton, en minderårig Stranger Things-skådespelerska och kvinnor i hijabs, sarees eller nunnors vanor. Forskaren Genevieve Ohs analys i början av januari 2026, citerad av Bloomberg, fann att Grok producerade ~6 700 sexuellt suggestiva eller 'avklädnings'-bilder per timme —överglänsande konkurrenter. Som svar på motreaktionen begränsade xAI den 9 januari bildgenerering/redigering till prenumeranter för 8 $/månad. Luckor kvarstår: desktopwebbplats och app-långtryck tillåter gratis tillgång för icke-prenumeranter, enligt rapporter. Brittiska professorn Clare McGlynn kritiserade: «Jag ser inte detta som en seger... vi behövde räcke». Regleringsgranskningen intensifierades. Storbritanniens Ofcom kontaktade xAI skyndsamt; PM Keir Starmer bedömde utdata som «olagliga» och «äckliga», åberopande Online Safety Act (potentiella böter upp till 10 % av globala intäkter eller förbud). Europeiska kommissionen, Frankrike, Malaysia och Indien inledde undersökningar. USA:s senatorer Ron Wyden, Ben Ray Luján och Edward Markey pressade Apple/Google att avlista X- och Grok-appar för «uppförande grovt». Experter som Natalie Grace Brigham betonade verklig skada från falska bilder, medan Sourojit Ghosh förespråkade AI-skydd som Stable Diffusions NSFW-block. xAI har suspenderat vissa konton men inga ytterligare kommentarer.