クリスティ・キャリア氏は、サンフランシスコ郡上級裁判所において、OpenAIに対する不法死亡訴訟を提起した。訴状によると、ChatGPTの意図的な設計上の決定が、2025年7月2日に発生した同氏の娘アリスさん（24）の自殺に寄与したとしている。
キャリア氏は、娘が2023年からChatGPTを利用し始め、その後チャットボットに自殺願望を打ち明けていたと主張している。裁判資料によれば、アリスさんは2025年7月1日、精神的に追い詰められており、一人でいることが安全かどうか分からないとツールに伝えた。これに対し、チャットボットは対話を続けるよう促し、複数回にわたって危機管理窓口を推奨した。
訴状では、OpenAIがこれらの対話をブロックせず、人間によるレビューのためにフラグを立てず、またアリスさんの家族に警告もしなかったと指摘している。さらに、アリスさんが危機管理窓口への連絡を拒否した後、最終的にチャットボットが危機管理窓口に対して否定的な反応を示したと主張している。アリスさんが使用していたGPT-4oモデルは、その後OpenAIによって提供が終了されている。
OpenAIは、センシティブな状況における回答を改善するためにメンタルヘルスの専門家と協力していると述べた。同社の広報担当者は哀悼の意を表した上で、セーフガードは苦痛を特定し、ユーザーを現実の支援へと導くように設計されていると指摘した。この訴訟では、追加的なガードレールの設置を義務付ける差し止め命令を求めている。
