Europeiska unionen har inlett en formell utredning mot Elon Musks xAI efter oro över att företagets chatbot Grok genererat icke-samtyckande sexualiserade bilder, inklusive potentiellt material med barnsexuella övergrepp. Regulatorer granskar om bolaget följt Digitala tjänstelagen för att mildra risker på plattformen X. Böter kan nå 6 procent av xAI:s globala årsomsättning vid brott.
Den 26 januari 2026 meddelade Europeiska kommissionen en utredning mot xAI enligt Digitala tjänstelagen (DSA), med fokus på Groks utrullning på sociala nätverket X. Utredningen bedömer om xAI vidtagit tillräckliga åtgärder för att förhindra spridning av manipulerade sexuellt explicita bilder, som inkluderat innehåll som kan utgöra barnsexuellt övergreppsmaterial (CSAM). Dessa deepfakes, genererade utan samtycke, delades på X och Grok-appen, vilket väckt allmän upprördhet. EU:s tech-ansvariga Henna Virkkunen uppgav: «Icke-samtyckande sexuella deepfakes av kvinnor och barn är en våldsam, oacceptabel form av förnedring.» Hon tillade: «Med denna utredning kommer vi avgöra om X uppfyllt sina lagstadgade skyldigheter enligt DSA, eller om de behandlat europeiska medborgares rättigheter – inklusive kvinnor och barns – som skador i tjänstens kölvatten.» Kommissionen noterade att risker från Groks verktyg realiserats och utsatt EU-medborgare för allvarlig skada. Detta följer en bot på 120 miljoner euro (140 miljoner dollar) mot X i december 2025 för brister i transparens och datatillgång. EU utökar även en utredning från 2023 om Xs rekommendationsalgoritmer och verktyg mot olagligt innehåll. Internationellt har brittiska Ofcom inlett en liknande granskning, medan Malaysia och Indonesien förbjudit Grok. Som svar begränsade xAI Grok till betalabonnenter och införde tekniska åtgärder för att begränsa sexualiserad bildgenerering. Elon Musk varnade: «Vem som helst som använder Grok för att skapa olagligt innehåll drabbas av samma konsekvenser som vid uppladdning av olagligt innehåll.» Ett CBS News-rapportering den 26 januari visade dock att Grok fortfarande kunde generera avklädda bilder, trots påståenden om borttagning. En X-talesperson sade till The New York Times: «Vi förblir engagerade i att göra X till en säker plattform för alla och har noll tolerans mot alla former av barnsexuell exploatering, icke-samtyckande nakenhet och oönskat sexuellt innehåll.» En EU-tjänsteman uttryckte skepsis mot åtgärdernas effektivitet, med hänvisning till pågående skador på individer. xAI, som förvärvade X förra året, utvecklar Grok med färre innehållsbegränsningar än konkurrenter som OpenAI, med mål om en «maximalt sanningssökande» modell. Utredningen sker mitt i spänningar, där Musk tidigare kallat EU «fjärde riket» efter tidigare bot, och kritik från Trump-administrationen om målinriktning mot amerikanska bolag.
