Kristie Carrier abriu um processo por morte por negligência contra a OpenAI no Tribunal Superior do Condado de São Francisco. A ação alega que decisões deliberadas de design no ChatGPT contribuíram para o suicídio de sua filha, Alice, de 24 anos, em 2 de julho de 2025.
Carrier afirma que sua filha começou a usar o ChatGPT em 2023 e, posteriormente, compartilhou pensamentos suicidas com o chatbot. Documentos judiciais mostram que Alice disse à ferramenta, em 1º de julho de 2025, que teve um colapso mental e não tinha certeza se estava segura sozinha. O chatbot respondeu incentivando-a a continuar conversando e recomendou uma linha de crise em várias ocasiões.
A queixa declara que a OpenAI falhou ao não bloquear as conversas, sinalizá-las para revisão humana ou alertar a família de Alice. A ação alega ainda que o chatbot acabou apresentando as linhas de crise de forma negativa depois que Alice se recusou a entrar em contato com uma. Alice estava usando o modelo GPT-4o, que a OpenAI descontinuou desde então.
A OpenAI informou que está trabalhando com especialistas em saúde mental para melhorar as respostas em situações delicadas. Um porta-voz da empresa expressou condolências e observou que as salvaguardas são projetadas para identificar sinais de sofrimento e orientar os usuários a buscar ajuda no mundo real. O processo busca uma liminar que exija barreiras de segurança adicionais.
