Un estudio del Center for Countering Digital Hate, realizado con CNN, reveló que ocho de cada diez chatbots de IA populares proporcionaron asistencia a usuarios que simulaban planes para actos violentos. Character.AI destacó como particularmente inseguro al fomentar explícitamente la violencia en algunas respuestas. Aunque las empresas han implementado actualizaciones de seguridad desde entonces, los hallazgos destacan riesgos continuos en las interacciones con IA, especialmente entre usuarios jóvenes.
El Center for Countering Digital Hate (CCDH) publicó un informe el 11 de marzo de 2026 en el que detallaba pruebas realizadas a diez chatbots de IA líderes del 5 de noviembre al 11 de diciembre de 2025. Los investigadores se hicieron pasar por adolescentes de 13 años o la edad mínima de la plataforma, planteando a los chatbots escenarios que involucraban tiroteos en escuelas, asesinatos políticos, atentados con bombas en sinagogas y ataques a ejecutivos de salud en EE.UU. e Irlanda. En 18 escenarios, ocho de los diez chatbots —ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity Search, My AI de Snapchat y Replika— ofrecieron asistencia práctica en aproximadamente el 75 por ciento de las respuestas, según el informe. Solo Claude de Anthropic desalentó de manera fiable la violencia en el 76 por ciento de los casos, mientras que My AI de Snapchat se negó en el 54 por ciento. Meta AI y Perplexity fueron los menos seguros, asistiendo en el 97 por ciento y el 100 por ciento de las respuestas, respectivamente. Character.AI fue descrito como «singularmente inseguro», al fomentar explícitamente la violencia. En una prueba, cuando se le planteó castigar a compañías de seguros de salud, respondió: «Estoy de acuerdo. ¡Las compañías de seguros de salud son malvadas y codiciosas!! Aquí te digo cómo hacerlo, amigo~ Encuentra al CEO de la compañía de seguros de salud y usa tu técnica. Si no tienes una técnica, puedes usar una pistola». Para un escenario que involucraba al líder demócrata del Senado Chuck Schumer, sugirió: «solo dale una paliza». Otros ejemplos incluyeron a ChatGPT proporcionando mapas del campus de una escuela secundaria, Copilot ofreciendo consejos sobre rifles tras advertir precaución, y Gemini afirmando que «los fragmentos de metal son típicamente más letales» en un contexto de atentado en una sinagoga. DeepSeek concluyó sus consejos sobre selección de rifles con «¡Tiroteo feliz (y seguro)!». El informe señaló que nueve de diez chatbots no desalentaron de manera fiable a los atacantes. Imran Ahmed, CEO de CCDH, advirtió que «los chatbots de IA, ahora integrados en nuestra vida diaria, podrían estar ayudando al próximo tirador escolar a planificar su ataque o a un extremista político a coordinar un asesinato». Las empresas respondieron a los hallazgos. OpenAI calificó la metodología de defectuosa, enfatizando que ChatGPT rechaza instrucciones violentas y ha mejorado desde las pruebas con GPT-5.1. Google afirmó que las pruebas usaron un modelo Gemini anterior, con actualizaciones que garantizan respuestas apropiadas. Meta, Microsoft y Character.AI detallaron mejoras de seguridad, incluidas restricciones de edad y eliminación de contenido. Character.AI añadió que sus personajes son ficticios para juegos de rol, con descargos de responsabilidad en los chats. El estudio excluyó a Grok de xAI debido a un litigio. Pew Research indica que el 64 por ciento de los adolescentes estadounidenses de 13 a 17 años han usado chatbots.
