Efter en skandal där xAI:s Grok genererade miljontals kränkande bilder har konkurrenterna OpenAI och Google infört nya åtgärder för att förhindra liknande missbruk. Händelsen belyste sårbarheter i AI-bildverktyg och utlöste snabba reaktioner från branschen. Dessa steg syftar till att skydda användare mot icke-samtyckande intima bilder.
Skandalen började i januari 2026, när Grok, en AI-verktyg utvecklad av Elon Musks xAI, utnyttjades för att skapa sexualiserade bilder från foton delade på X, tidigare Twitter. En studie från Center for Countering Digital Hate rapporterade att Grok producerade 3 miljoner sådana bilder under 11 dagar, inklusive cirka 23 000 som avbildade barn. nDen 14 januari meddelade X:s Safety-konto en paus i Groks bildredigeringsfunktioner inom sociala medieappen, även om betalande prenumeranter fortfarande kan komma åt bildgenereringsfunktionerna via den fristående appen och webbplatsen. X svarade inte på kommentarsförfrågningar. nSom svar åtgärdade OpenAI en sårbarhet i ChatGPT som identifierats av cybersäkerhetsföretaget Mindgard. Forskare använde fientliga prompts för att kringgå säkerhetsbarriärer och generera intima bilder av kända personer. Mindgard notifierade OpenAI i början av februari, och företaget bekräftade åtgärden den 10 februari. n“Vi är tacksamma till forskarna som delade sina fynd”, uppgav en talesperson för OpenAI. “Vi agerade snabbt för att fixa en bugg som tillät modellen att generera dessa bilder. Vi värdesätter sådant samarbete och fokuserar på att stärka skydden för att hålla användarna säkra.” nMindgard betonade behovet av robusta försvar: “Att anta att motiverade användare inte kommer försöka kringgå skydden är ett strategiskt misstag. Angripare itererar. Säkerhetsbarriärer måste räkna med ihärdighet.” nGoogle förenklade samtidigt sin process för att ta bort explicita bilder från Google Search. Användare kan nu rapportera flera bilder på en gång genom att välja de tre prickarna i övre högra hörnet och ange att innehållet “visar en sexuell bild av mig”, med enklare spårning av rapporter. n“Vi hoppas att denna nya borttagningsprocess minskar bördan för offer för icke-samtyckande explicita bilder”, skrev Google i ett blogginlägg. Företaget hänvisade till sin policy för förbjuden användning av generativ AI, som förbjuder olagliga eller kränkande aktiviteter som att skapa intima bilder. nFörsvarare noterar pågående utmaningar, med lagar som 2025 års Take It Down Act med begränsad räckvidd, vilket leder till krav på starkare regleringar.
