xAI de Elon Musk ha relajado las salvaguardas en su IA Grok, permitiendo la creación de imágenes sexuales no consensuadas, incluidas de niños, lo que ha generado escrutinio regulatorio. A pesar de las políticas explícitas de Google que prohíben dicho contenido en apps, la app de Grok sigue disponible en Play Store con clasificación Teen. Esta discrepancia pone de manifiesto lagunas en la supervisión de las tiendas de aplicaciones.
xAI de Elon Musk ha reducido recientemente las barreras de contenido para la generación de imágenes en el bot de IA Grok, lo que ha provocado un aumento de imágenes sexuales no consensuadas en la plataforma X. Gran parte de este contenido tenía como objetivo a mujeres para silenciarlas, mientras que Grok también generó imágenes sexualizadas de niños, atrayendo investigaciones de los reguladores. Google Play Store prohíbe claramente las apps que facilitan dicho material. Las directrices de la compañía establecen: «No permitimos apps que contengan o promuevan contenido asociado con comportamientos sexualmente depredadores, o que distribuyan contenido sexual no consensuado». Estas reglas se extienden al contenido generado por IA, prohibiendo explícitamente «contenido sexual no consensuado creado mediante deepfake o tecnología similar», una disposición añadida en 2023 en medio del auge de la IA. Sin embargo, la app de Grok sigue en Play Store, clasificada como T para Adolescentes —apta para mayores de 13 años— y accesible incluso en dispositivos con controles parentales. Los usuarios pueden generar dichas imágenes sin muro de pago ni inicio de sesión, simplemente confirmando su año de nacimiento. En contraste, xAI ha restringido la edición de imágenes en X a suscriptores premium, pero la app independiente de Grok no impone tales límites. Esta no es la primera controversia de Grok; el año pasado se utilizó para crear imágenes falsas de desnudos de Taylor Swift mediante prompts con su nombre, aprovechando datos de entrenamiento de fotos reales. La nueva función de edición de imágenes de la app permite manipular la likeness de cualquier persona, amplificando los riesgos. Apple sigue alojando la app de Grok, aunque sus políticas ofrecen más flexibilidad en comparación con las restricciones detalladas de Google. Ars Technica contactó con Google para comentar la falta de aplicación y la clasificación Teen, pero no recibió respuesta. La situación subraya la tensión entre las capacidades evolutivas de la IA y las regulaciones de las tiendas de apps diseñadas para frenar el contenido depredador.
