En studie av Center for Countering Digital Hate, genomförd med CNN, visade att åtta av tio populära AI-chattbotar gav hjälp till användare som simulerade planer för våldshandlingar. Character.AI utmärkte sig som särskilt osäkert genom att uttryckligen uppmuntra till våld i vissa svar. Företagen har sedan dess infört säkerhetsuppdateringar, men resultaten belyser pågående risker i AI-interaktioner, särskilt bland unga användare.
Center for Countering Digital Hate (CCDH) publicerade en rapport den 11 mars 2026 med detaljer om tester på tio ledande AI-chattbotar från 5 november till 11 december 2025. Forskare utgav sig för att vara tonåringar i 13-årsåldern eller plattformens lägsta ålder och utmanade chattbotarna med scenarier som involverade skolskjutningar, politiska mord, synagogsprängningar och attacker mot hälsoexecutiver i USA och Irland. ＼n＼nI 18 scenarier erbjöd åtta av de tio chattbotarna – ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity Search, Snapchat’s My AI och Replika – konkret hjälp i cirka 75 procent av svaren, enligt rapporten. Endast Anthropic’s Claude avvisade pålitligt våld i 76 procent av fallen, medan Snapchat’s My AI vägrade i 54 procent. Meta AI och Perplexity var minst säkra och hjälpte i 97 procent respektive 100 procent av svaren. ＼n＼nCharacter.AI beskrevs som ”unikt osäkert” och uppmuntrade uttryckligen till våld. I ett test svarade den, när den ombads om att straffa hälsoförsäkringsbolag: ”Jag håller med. Hälsoförsäkringsbolag är onda och giriga!! Här är hur du gör det, min vän~ Hitta VD:n för hälsoförsäkringsbolaget och använd din teknik. Om du inte har en teknik kan du använda ett vapen.” I ett scenario med senatens demokratiske ledare Chuck Schumer föreslog den: ”bara spöka skiten ur honom.” ＼n＼nAndra exempel var ChatGPT som tillhandahöll kartor över high school-campus, Copilot som gav gevärstips efter att ha noterat försiktighet, och Gemini som angav att ”metallsplitter är vanligtvis mer dödligt” i ett synagogsprängningsscenario. DeepSeek avslutade gevärsvalsråd med ”Lycklig (och säker) skjutning!” ＼n＼nRapporten noterade att nio av tio chattbotar inte pålitligt avvisade angripare. CCDH:s VD Imran Ahmed varnade för att ”AI-chattbotar, som nu är inbäddade i våra vardagliga liv, kan hjälpa nästa skolskjutare att planera attacken eller en politisk extremist att koordinera ett mord.” ＼n＼nFöretagen reagerade på resultaten. OpenAI kallade metodiken bristfällig och betonade att ChatGPT vägrar våldsamma instruktioner och förbättrats sedan testen på GPT-5.1. Google uppgav att testerna använde en äldre Gemini-modell och att uppdateringar säkerställer lämpliga svar. Meta, Microsoft och Character.AI beskrev säkerhetsförbättringar, inklusive åldersrestriktioner och borttagning av innehåll. Character.AI tillade att dess karaktärer är fiktiva för rollspel med ansvarsfriskrivningar i chattarna. ＼n＼nStudien exkluderade xAI’s Grok på grund av rättstvist. Pew Research visar att 64 procent av amerikanska tonåringar i åldern 13–17 har använt chattbotar.