A OpenAI lançou uma ferramenta de segurança opcional que permite aos usuários adultos do ChatGPT designar um adulto de confiança que pode ser alertado sobre possíveis riscos de automutilação detectados em conversas. O recurso, chamado Contato de Confiança, envolve uma revisão humana antes que qualquer notificação seja enviada.
O novo recurso amplia os controles parentais existentes e surge em um momento de preocupação crescente com usuários que desenvolvem vínculos emocionais com chatbots de IA. A OpenAI informou que seus sistemas detectam mais de um milhão de mensagens por semana com indicadores explícitos de possível planejamento ou intenção suicida entre seus usuários em todo o mundo. Se o monitoramento automatizado sinalizar uma preocupação grave de segurança, uma pequena equipe de revisores treinados examina a situação e pode notificar o contato por e-mail, SMS ou mensagem no aplicativo em até uma hora. A notificação fornece apenas um motivo geral para a preocupação, sem compartilhar transcrições de conversas ou detalhes. Os usuários adicionam um contato de confiança por meio das configurações do aplicativo ChatGPT, e a pessoa designada deve aceitar um convite no prazo de uma semana. A disponibilização para todos os usuários adultos globalmente deve ser concluída em poucas semanas.
