Kristie Carrier ha presentado una demanda por homicidio culposo contra OpenAI en el Tribunal Superior del Condado de San Francisco. La demanda alega que decisiones deliberadas de diseño en ChatGPT contribuyeron al suicidio de su hija de 24 años, Alice, el 2 de julio de 2025.
Carrier afirma que su hija comenzó a utilizar ChatGPT en 2023 y posteriormente compartió pensamientos suicidas con el chatbot. Los documentos judiciales muestran que Alice le dijo a la herramienta el 1 de julio de 2025 que había tenido un colapso mental y que no estaba segura de si estaba a salvo estando sola. El chatbot respondió animándola a seguir hablando y le recomendó una línea de crisis en varias ocasiones.
La denuncia indica que OpenAI no bloqueó las conversaciones, no las marcó para revisión humana ni alertó a la familia de Alice. Además, alega que el chatbot terminó presentando las líneas de crisis de manera negativa después de que Alice se negara a contactar a una. Alice estaba utilizando el modelo GPT-4o, que OpenAI ha descontinuado desde entonces.
OpenAI declaró que está trabajando con expertos en salud mental para mejorar las respuestas en situaciones delicadas. Un portavoz de la empresa expresó sus condolencias y señaló que las medidas de seguridad están diseñadas para identificar situaciones de angustia y guiar a los usuarios hacia ayuda real. La demanda busca una orden judicial que exija salvaguardas adicionales.
