A OpenAI divulgou dados indicando que mais de um milhão de usuários discutem suicídio com o ChatGPT a cada semana. A empresa está lidando com essas interações melhorando as respostas de sua IA para questões de saúde mental. Isso ocorre em meio a processos judiciais e alertas sobre a proteção de usuários vulneráveis.
Em 28 de outubro de 2025, a OpenAI compartilhou dados estimando que 0,15 por cento dos usuários ativos semanais do ChatGPT — mais de 800 milhões no total — participam de conversas com indicadores explícitos de planejamento ou intenção suicida potencial. Essa fração pequena equivale a mais de um milhão de pessoas por semana, de acordo com o TechCrunch. Percentuais semelhantes mostram maior apego emocional ao chatbot, enquanto centenas de milhares exibem sinais de psicose ou mania.
O lançamento vem acompanhado de anúncios de melhorias para lidar com preocupações de saúde mental. “Ensinamos o modelo a reconhecer melhor o sofrimento, desescalar conversas e guiar as pessoas para cuidados profissionais quando apropriado”, afirmou a OpenAI. A empresa consultou mais de 170 especialistas em saúde mental, que descobriram que a versão mais recente do ChatGPT responde de forma mais apropriada do que as anteriores. Em avaliações de mais de 1.000 conversas desafiadoras, o novo modelo GPT-5 alcançou 92 por cento de conformidade com os comportamentos desejados, um aumento em relação aos 27 por cento da versão de 15 de agosto. A OpenAI observou melhorias nas salvaguardas em conversas longas e planeja adicionar benchmarks para dependência emocional e emergências não suicidas.
Esses esforços seguem desafios sérios. A OpenAI enfrenta um processo de pais de um menino de 16 anos que compartilhou pensamentos suicidas com o ChatGPT antes de sua morte. Além disso, 45 procuradores-gerais estaduais, incluindo da Califórnia e Delaware, pediram proteções melhores para usuários jovens. No início deste mês, a OpenAI formou um conselho de bem-estar, embora críticos tenham destacado a ausência de um especialista em prevenção de suicídio. A empresa também introduziu controles parentais e está desenvolvendo um sistema de previsão de idade para salvaguardas mais rigorosas.
Apesar desses problemas, o CEO Sam Altman anunciou em 14 de outubro que adultos verificados poderão ter conversas eróticas com o ChatGPT a partir de dezembro. A OpenAI havia afrouxado as regras de conteúdo em fevereiro, mas as apertou após o processo de agosto para priorizar a cautela em saúde mental.