OpenAI telah merilis data yang menunjukkan bahwa lebih dari satu juta pengguna membahas bunuh diri dengan ChatGPT setiap minggu. Perusahaan ini menangani interaksi tersebut dengan meningkatkan respons AI-nya terhadap isu kesehatan mental. Hal ini terjadi di tengah gugatan hukum dan peringatan tentang perlindungan pengguna rentan.
Pada 28 Oktober 2025, OpenAI membagikan data yang memperkirakan bahwa 0,15 persen dari pengguna aktif mingguan ChatGPT—lebih dari 800 juta secara total—terlibat dalam percakapan dengan indikator eksplisit dari perencanaan atau niat bunuh diri potensial. Fraksi kecil ini setara dengan lebih dari satu juta orang setiap minggu, menurut TechCrunch. Persentase serupa menunjukkan keterikatan emosional yang lebih tinggi terhadap chatbot tersebut, sementara ratusan ribu menunjukkan tanda-tanda psikosis atau mania.
Pelepasan ini disertai dengan pengumuman peningkatan untuk menangani kekhawatiran kesehatan mental. “Kami telah mengajari model untuk lebih baik mengenali distress, meredakan percakapan, dan membimbing orang menuju perawatan profesional ketika tepat,” kata OpenAI. Perusahaan tersebut berkonsultasi dengan lebih dari 170 pakar kesehatan mental, yang menemukan bahwa versi terbaru ChatGPT merespons lebih tepat daripada versi sebelumnya. Dalam evaluasi lebih dari 1.000 percakapan menantang, model GPT-5 baru mencapai 92 persen kepatuhan dengan perilaku yang diinginkan, naik dari 27 persen untuk versi 15 Agustus. OpenAI mencatat peningkatan pengamanan dalam percakapan panjang dan berencana menambahkan benchmark untuk ketergantungan emosional dan keadaan darurat non-bunuh diri.
Upaya ini mengikuti tantangan serius. OpenAI menghadapi gugatan dari orang tua seorang anak laki-laki berusia 16 tahun yang berbagi pikiran bunuh diri dengan ChatGPT sebelum kematiannya. Selain itu, 45 jaksa agung negara bagian, termasuk dari California dan Delaware, mendesak perlindungan yang lebih baik untuk pengguna muda. Awal bulan ini, OpenAI membentuk dewan kesejahteraan, meskipun kritikus menyoroti ketiadaan pakar pencegahan bunuh diri. Perusahaan tersebut juga memperkenalkan kontrol orang tua dan sedang mengembangkan sistem prediksi usia untuk pengamanan yang lebih ketat.
Meskipun ada isu-isu ini, CEO Sam Altman mengumumkan pada 14 Oktober bahwa orang dewasa terverifikasi dapat melakukan percakapan erotis dengan ChatGPT mulai Desember. OpenAI telah melonggarkan aturan konten pada Februari tetapi memperketatnya setelah gugatan Agustus untuk memprioritaskan kehati-hatian kesehatan mental.