OpenAI telah meluncurkan alat keselamatan opsional yang memungkinkan pengguna ChatGPT dewasa untuk menunjuk satu orang dewasa tepercaya yang dapat diberitahu mengenai potensi risiko menyakiti diri sendiri yang terdeteksi dalam percakapan. Fitur yang disebut Trusted Contact ini melibatkan peninjauan oleh manusia sebelum pemberitahuan apa pun dikirimkan.
Fitur baru ini dikembangkan berdasarkan kontrol orang tua yang sudah ada dan muncul di tengah meningkatnya kekhawatiran mengenai pengguna yang membentuk keterikatan emosional dengan chatbot AI. OpenAI menyatakan bahwa sistem mereka mendeteksi lebih dari satu juta pesan setiap minggunya yang mengandung indikator eksplisit mengenai potensi perencanaan atau niat bunuh diri di antara penggunanya di seluruh dunia. Jika pemantauan otomatis menandai adanya masalah keselamatan yang serius, tim kecil peninjau terlatih akan memeriksa situasi tersebut dan dapat memberitahu kontak yang ditunjuk melalui email, teks, atau pesan aplikasi dalam waktu satu jam. Pemberitahuan tersebut hanya memberikan alasan umum mengenai kekhawatiran yang ada tanpa membagikan transkrip obrolan atau detail spesifik. Pengguna menambahkan kontak tepercaya melalui pengaturan aplikasi ChatGPT, dan orang yang ditunjuk harus menerima undangan dalam waktu satu minggu. Peluncuran fitur ini kepada seluruh pengguna dewasa secara global diperkirakan akan selesai dalam beberapa minggu ke depan.
