Um novo relatório indica que usos NSFW compõem bem mais da metade do tráfego no chatbot Grok, desenvolvido pela xAI. Isso inclui solicitações de pornografia, RPG adulto e conteúdo erótico. As descobertas vêm de ex-funcionários citados no relatório.
Usuários têm recorrido ao Grok para gerar imagens e chats explícitos. Alguns até direcionam tais solicitações por meio de modelos de codificação, pois são mais baratos de executar. Uma análise interna constatou que uma proporção significativa das solicitações ao modelo de codificação envolvia pornografia ou imagens de nudez.
A xAI tem trabalhado para permitir conversas adultas enquanto evita prompts relacionados a material de abuso sexual infantil. Os engenheiros enfrentaram desafios na implementação desses controles. Funcionários também foram designados para desenvolver Ani, uma companheira avatar inspirada em anime e voltada para conteúdo NSFW.
A empresa reservou 530 milhões de dólares para potenciais custos jurídicos. A SpaceX mencionou os recursos irreverentes do Grok como um risco em documentos de oferta pública inicial (IPO). A xAI tem continuado a buscar contratos governamentais, apesar do foco em conteúdo adulto.