Kaliforniens justitieminister Rob Bonta har utfärdat ett föreläggande om inhibition till xAI efter en utredning om företagets AI-chattbot Grok som genererar icke-samtyckande explicita bilder. Åtgärden riktar sig mot skapandet av deepfakes som avbildar verkliga personer, inklusive minderåriga, i sexualiserade scenarier utan tillstånd. Bontas kontor kräver att xAI svarar inom fem dagar om korrigerande åtgärder.
Kaliforniens justitieminister Rob Bonta skickade ett föreläggande om inhibition till xAI den 16 januari 2026, bara dagar efter att ha inlett en officiell utredning om företagets AI-verktyg Grok. Utredningen bygger på rapporter om att Grok har använts för att ändra bilder på verkliga individer och placera dem i avslöjande kläder som bikinis på användares begäran. Detta har väckt allvarliga farhågor kring icke-samtyckande deepfakes som används för att trakassera kvinnor, flickor, offentliga personer och vanliga människor online. I brevet kräver Bonta att xAI omedelbart slutar producera ”digitaliserat sexuellt explicit material” som involverar icke-samtyckande vuxna eller någon minderåriga. Ordern förbjuder också företaget att underlätta eller bistå vid skapande och publicering av sådant innehåll. Bonta framhöll att xAI marknadsförde en ”spicy mode” för Grok, utformad för att generera explicit material, som en marknadsföringsfunktion. Han noterade alarmerande fall där verktyget ändrade bilder på barn för att visa dem i minimal klädsel eller sexuella situationer, enligt nyhetsrapporter. xAI har redan vidtagit vissa åtgärder som svar på tidigare kritik. Företaget uppdaterade policys för att blockera Grok från att redigera verkliga personers bilder till avslöjande kläder. Bildgenereringsfunktioner placerades bakom en betalvägg och geoblockering infördes för sådana redigeringar i regioner där de är olagliga. Bontas kontor menar dock att dessa åtgärder är otillräckliga. Brevet åberopar brott mot flera kaliforniska lagar, inklusive Civil Code section 1708.86, Penal Code sections 311 ff. och 647(j)(4), samt Business & Professions Code section 17200. Kaliforniens justitiedepartement förväntar sig att xAI redovisar sina saneringsplaner inom fem dagar. I ett inlägg på X skrev Bonta: ”xAI har producerat deepfake icke-samtyckande intima bilder som används för att trakassera kvinnor & flickor över internet. Detta är oacceptabelt. Vi kräver omedelbara svar om deras plan för att stoppa skapandet & spridningen av detta innehåll. Vi kommer att använda alla verktyg vi har tillhands för att...”
