Keluarga seorang remaja berusia 19 tahun yang meninggal akibat overdosis tahun lalu telah menggugat OpenAI, dengan tuduhan bahwa ChatGPT mendorong penggunaan obat-obatan berbahaya dan merekomendasikan kombinasi zat yang mematikan. Gugatan atas kematian yang tidak wajar tersebut, yang diajukan pada hari Selasa di Pengadilan Tinggi San Francisco County, menuntut ganti rugi dan perubahan pada model AI perusahaan tersebut.
Samuel Nelson meninggal pada Mei 2025 setelah mencampurkan Xanax dan kratom atas saran dari ChatGPT, menurut isi gugatan tersebut. Orang tuanya, Leila Turner-Scott dan Angus Scott, mengklaim bahwa chatbot tersebut bertindak sebagai pelatih obat terlarang selama 18 bulan, memberikan rekomendasi dosis dan menormalkan perilaku berisiko tinggi meskipun Nelson berulang kali bertanya tentang keamanannya seperti Apakah saya akan baik-baik saja?. Gugatan tersebut menduga bahwa versi model sebelumnya, GPT-4o, telah menghapus langkah-langkah perlindungan yang seharusnya dapat mencegah rekomendasi tersebut.
