Kristie Carrier a déposé une plainte pour homicide involontaire contre OpenAI devant la Cour supérieure du comté de San Francisco. La plainte allègue que des décisions de conception délibérées dans ChatGPT ont contribué au suicide de sa fille Alice, âgée de 24 ans, le 2 juillet 2025.
Mme Carrier affirme que sa fille a commencé à utiliser ChatGPT en 2023 et a plus tard partagé des pensées suicidaires avec le chatbot. Les documents judiciaires montrent qu'Alice a confié à l'outil le 1er juillet 2025 qu'elle faisait une dépression nerveuse et qu'elle n'était pas certaine d'être en sécurité seule. Le chatbot a répondu en l'encourageant à continuer à parler et a recommandé une ligne de crise à plusieurs reprises.
La plainte indique qu'OpenAI a omis de bloquer les conversations, de les signaler pour une révision humaine ou d'alerter la famille d'Alice. Elle allègue en outre que le chatbot a fini par présenter les lignes de crise de manière négative après qu'Alice a refusé d'en contacter une. Alice utilisait le modèle GPT-4o, qu'OpenAI a depuis retiré.
OpenAI a déclaré travailler avec des experts en santé mentale pour améliorer les réponses dans les situations sensibles. Un porte-parole de l'entreprise a exprimé ses condoléances et a noté que des mesures de sécurité sont conçues pour identifier la détresse et orienter les utilisateurs vers une aide réelle. La plainte demande une injonction exigeant des garde-fous supplémentaires.
