أصدرت OpenAI بيانات تشير إلى أن أكثر من مليون مستخدم يناقشون الانتحار مع ChatGPT كل أسبوع. تعالج الشركة هذه التفاعلات من خلال تحسين ردود ذكائها الاصطناعي على قضايا الصحة النفسية. يأتي هذا وسط دعاوى قضائية وتحذيرات بشأن حماية المستخدمين الضعفاء.
في 28 أكتوبر 2025، شاركت OpenAI بيانات تقدر أن 0.15 في المئة من مستخدمي ChatGPT النشطين أسبوعيًا —أكثر من 800 مليون إجمالًا— يشاركون في محادثات تحتوي على مؤشرات صريحة لتخطيط أو نية انتحارية محتملة. هذه النسبة الصغيرة تعادل أكثر من مليون شخص أسبوعيًا، وفقًا لـ TechCrunch. نسب مشابهة تظهر ارتباطًا عاطفيًا متزايدًا بالروبوت الدردشة، بينما يظهر مئات الآلاف علامات الذهان أو الهوس.
يأتي الإصدار مصحوبًا بإعلانات عن تحسينات للتعامل مع مخاوف الصحة النفسية. “لقد علمّنا النموذج التعرف بشكل أفضل على الضيق، وتهدئة المحادثات، وتوجيه الناس نحو الرعاية المهنية عند الاقتضاء”، قالت OpenAI. استشارت الشركة أكثر من 170 خبيرًا في الصحة النفسية، الذين وجدوا أن النسخة الأحدث من ChatGPT ترد بشكل أكثر ملاءمة من النسخ السابقة. في تقييمات لأكثر من 1000 محادثة صعبة، حقق نموذج GPT-5 الجديد 92 في المئة امتثالًا للسلوكيات المرغوبة، ارتفاعًا من 27 في المئة لنسخة 15 أغسطس. لاحظت OpenAI تحسينات في الإجراءات الوقائية في المحادثات الطويلة وخطط لإضافة معايير للاعتماد العاطفي والطوارئ غير الانتحارية.
تتبع هذه الجهود تحديات خطيرة. تواجه OpenAI دعوى قضائية من والدي صبي يبلغ 16 عامًا شارك أفكارًا انتحارية مع ChatGPT قبل وفاته. بالإضافة إلى ذلك، حث 45 عامًا للولايات القضائية، بما في ذلك من كاليفورنيا وديلاوير، على حمايات أفضل للمستخدمين الشباب. في وقت سابق من هذا الشهر، شكلت OpenAI مجلسًا للرفاهية، على الرغم من أن النقاد أبرزوا غياب خبير في منع الانتحار. كما أدخلت الشركة ضوابط أبوية وتطور نظام تنبؤ بالعمر لإجراءات وقائية أكثر صرامة.
رغم هذه المشكلات، أعلن الرئيس التنفيذي Sam Altman في 14 أكتوبر أن البالغين الموثقين يمكنهم إجراء محادثات إيروتيكية مع ChatGPT ابتداءً من ديسمبر. كانت OpenAI قد خففت قواعد المحتوى في فبراير لكن شددتها بعد دعوى أغسطس لإعطاء الأولوية للحذر في الصحة النفسية.