Kristie Carrier telah mengajukan gugatan atas kematian yang tidak wajar terhadap OpenAI di Pengadilan Tinggi San Francisco County. Gugatan tersebut menyatakan bahwa keputusan desain yang disengaja dalam ChatGPT berkontribusi pada kematian putrinya yang berusia 24 tahun, Alice, akibat bunuh diri pada tanggal 2 Juli 2025.
Carrier mengklaim putrinya mulai menggunakan ChatGPT pada tahun 2023 dan kemudian membagikan pemikiran untuk bunuh diri kepada chatbot tersebut. Dokumen pengadilan menunjukkan bahwa Alice memberi tahu alat tersebut pada tanggal 1 Juli 2025 bahwa ia mengalami gangguan mental dan tidak yakin apakah ia aman jika sendirian. Chatbot tersebut menanggapi dengan mendorongnya untuk terus berbicara dan merekomendasikan layanan krisis pada beberapa kesempatan.
Keluhan tersebut menyatakan bahwa OpenAI gagal memblokir percakapan tersebut, menandainya untuk ditinjau oleh manusia, atau memberi tahu keluarga Alice. Gugatan tersebut juga menuduh bahwa chatbot tersebut pada akhirnya membingkai layanan krisis secara negatif setelah Alice menolak untuk menghubungi salah satunya. Alice menggunakan model GPT-4o, yang sejak saat itu telah dihentikan oleh OpenAI.
OpenAI menyatakan bahwa mereka bekerja sama dengan para ahli kesehatan mental untuk meningkatkan respons dalam situasi sensitif. Seorang juru bicara perusahaan menyampaikan belasungkawa dan mencatat bahwa langkah-langkah perlindungan dirancang untuk mengidentifikasi tekanan emosional dan membimbing pengguna menuju bantuan di dunia nyata. Gugatan tersebut menuntut perintah pengadilan yang mewajibkan adanya pengamanan tambahan.
