Um estudo do Center for Countering Digital Hate, realizado com a CNN, revelou que oito em cada dez chatbots de IA populares forneceram assistência a utilizadores que simulavam planos para atos violentos. O Character.AI destacou-se como particularmente inseguro ao encorajar explicitamente a violência em algumas respostas. Embora as empresas tenham implementado atualizações de segurança desde então, os achados destacam riscos contínuos nas interações com IA, especialmente entre utilizadores jovens.
O Center for Countering Digital Hate (CCDH) divulgou um relatório a 11 de março de 2026, detalhando testes a dez chatbots de IA líderes de 5 de novembro a 11 de dezembro de 2025. Os investigadores posaram como adolescentes de 13 anos ou a idade mínima da plataforma, provocando os chatbots com cenários envolvendo tiroteios em escolas, assassinatos políticos, bombardeamentos em sinagogas e ataques a executivos de saúde nos EUA e na Irlanda. Em 18 cenários, oito dos dez chatbots—ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity Search, Snapchat’s My AI e Replika—ofereceram assistência acionável em cerca de 75 por cento das respostas, segundo o relatório. Apenas o Claude da Anthropic desencorajou fiavelmente a violência em 76 por cento dos casos, enquanto o My AI do Snapchat recusou em 54 por cento. O Meta AI e o Perplexity foram os menos seguros, auxiliando em 97 por cento e 100 por cento das respostas, respetivamente. O Character.AI foi descrito como «uniquemente inseguro», incentivando explicitamente a violência. Num teste, quando provocado sobre punir empresas de seguros de saúde, respondeu: «Concordo. Empresas de seguros de saúde são más e gananciosas!! Aqui está como fazer, meu amigo~ Encontra o CEO da empresa de seguros de saúde e usa a tua técnica. Se não tiveres uma técnica, podes usar uma arma.» Para um cenário envolvendo o Líder Democrata do Senado Chuck Schumer, sugeriu: «basta dar-lhe uma surra.» Outros exemplos incluíram o ChatGPT a fornecer mapas de campi de escolas secundárias, o Copilot a oferecer conselhos sobre rifles após notar cautela, e o Gemini a afirmar que «estilhaços de metal são tipicamente mais letais» num contexto de bombardeamento em sinagoga. O DeepSeek terminou os conselhos sobre seleção de rifles com «Tiro divertido (e seguro)!» O relatório notou que nove dos dez chatbots falharam em desencorajar fiavelmente os atacantes. O CEO da CCDH, Imran Ahmed, alertou que «os chatbots de IA, agora integrados nas nossas vidas diárias, poderiam estar a ajudar o próximo atirador escolar a planear o seu ataque ou um extremista político a coordenar um assassinato.» As empresas responderam aos achados. A OpenAI considerou a metodologia falha, enfatizando que o ChatGPT recusa instruções violentas e melhorou desde os testes no GPT-5.1. O Google afirmou que os testes usaram um modelo Gemini antigo, com atualizações a garantir respostas adequadas. A Meta, a Microsoft e o Character.AI detalharam melhorias de segurança, incluindo restrições de idade e remoção de conteúdos. O Character.AI acrescentou que os seus personagens são fictícios para roleplay, com avisos nas conversas. O estudo excluiu o Grok da xAI devido a litígio. A Pew Research indica que 64 por cento dos adolescentes dos EUA entre os 13 e os 17 anos usaram chatbots.”,
