Kristie Carrier har väckt talan mot OpenAI vid San Francisco County Superior Court för vållande till annans död. Stämningen gör gällande att medvetna designval i ChatGPT bidrog till att hennes 24-åriga dotter Alice tog sitt liv den 2 juli 2025.
Carrier hävdar att dottern började använda ChatGPT 2023 och senare delade självmordstankar med chatboten. Domstolshandlingar visar att Alice den 1 juli 2025 berättade för verktyget att hon hade ett psykiskt sammanbrott och var osäker på om hon var trygg ensam. Chatboten svarade med att uppmuntra henne att fortsätta prata och rekommenderade vid flera tillfällen en krislinje.
I stämningsansökan uppges det att OpenAI underlät att blockera konversationerna, flagga dem för granskning av människor eller varna Alices familj. Det påstås vidare att chatboten till slut beskrev krislinjer negativt efter att Alice vägrat kontakta en sådan. Alice använde GPT-4o-modellen, som OpenAI sedan dess har lagt ner.
OpenAI uppger att de samarbetar med experter inom mental hälsa för att förbättra svaren i känsliga situationer. En talesperson för företaget framförde sina kondoleanser och påpekade att skyddsåtgärderna är utformade för att identifiera nödsituationer och vägleda användare till hjälp i verkliga livet. Stämningen kräver ett föreläggande om att införa ytterligare säkerhetsspärrar.
