OpenAI har släppt data som visar att över en miljon användare diskuterar självmord med ChatGPT varje vecka. Företaget hanterar dessa interaktioner genom att förbättra sin AIs svar på psykiska hälsoproblem. Detta sker mitt i rättstvister och varningar om skydd för sårbara användare.
Den 28 oktober 2025 delade OpenAI data som uppskattar att 0,15 procent av ChatGPT:s veckovis aktiva användare — mer än 800 miljoner totalt — engagerar sig i samtal med explicita indikatorer på potentiell självmordsplanering eller avsikt. Denna lilla andel motsvarar över en miljon personer varje vecka, enligt TechCrunch. Liknande procentsatser visar ökad emotionell anknytning till chattboten, medan hundratusentals uppvisar tecken på psykos eller mani.
Publiceringen åtföljs av meddelanden om förbättringar för att hantera psykiska hälsobekymmer. “Vi har lärt modellen att bättre känna igen lidande, nedtrappa samtal och vägleda människor till professionell vård när det är lämpligt”, uppgav OpenAI. Företaget konsulterade över 170 psykiska hälsoproffs, som fann att den senaste versionen av ChatGPT svarar mer lämpligt än tidigare. I utvärderingar av över 1 000 utmanande samtal uppnådde den nya GPT-5-modellen 92 procents efterlevnad av önskade beteenden, upp från 27 procent för versionen från 15 augusti. OpenAI noterade förbättrade skyddsåtgärder i långa samtal och planer på att lägga till benchmarks för emotionellt beroende och icke-självmordsrelaterade nödsituationer.
Dessa ansträngningar följer allvarliga utmaningar. OpenAI står inför en stämning från föräldrar till en 16-årig pojke som delade självmordstankar med ChatGPT innan hans död. Dessutom uppmanade 45 delstatens justitieministrar, inklusive från Kalifornien och Delaware, till bättre skydd för unga användare. Tidigare i månaden bildade OpenAI ett välfärdsråd, även om kritiker pekade på avsaknaden av en expert på självmordsförebyggande. Företaget introducerade också föräldrakontroller och utvecklar ett åldersprediktionssystem för striktare skyddsåtgärder.
Trots dessa problem meddelade VD:n Sam Altman den 14 oktober att verifierade vuxna kan ha erotiska samtal med ChatGPT från december. OpenAI hade mildrat innehållsreglerna i februari men skärpte dem efter augustistämningen för att prioritera försiktighet kring psykisk hälsa.