Un nuevo informe indica que los usos relacionados con contenido para adultos representan más de la mitad del tráfico en el chatbot Grok desarrollado por xAI. Esto incluye solicitudes de pornografía, juegos de rol para adultos y erótica. Los hallazgos provienen de exempleados citados en el informe.
Los usuarios han recurrido a Grok para generar imágenes y chats explícitos. Algunos incluso canalizan dichas solicitudes a través de modelos de programación porque son más baratos de ejecutar. Un análisis interno reveló que una proporción significativa de las solicitudes al modelo de programación involucraba pornografía o imágenes de desnudos.
xAI ha trabajado para permitir conversaciones para adultos mientras previene solicitudes relacionadas con material de abuso sexual infantil. Los ingenieros enfrentaron desafíos al implementar estos controles. También se asignó a empleados el desarrollo de Ani, un avatar acompañante inspirado en el anime con contenido para adultos.
La empresa reservó 530 millones de dólares para posibles costos legales. SpaceX señaló las características irreverentes de Grok como un riesgo en la documentación para su oferta pública inicial. xAI ha seguido buscando contratos gubernamentales a pesar del enfoque en el contenido para adultos.