Apple advirtió a xAI, la empresa de Elon Musk, que su aplicación de inteligencia artificial Grok corría el riesgo de ser eliminada de la App Store a menos que solucionara los problemas relacionados con deepfakes de carácter sexual. La compañía detalló sus acciones en una carta dirigida a senadores estadounidenses en medio de la creciente preocupación por la generación de imágenes abusivas. La aplicación Grok fue rechazada inicialmente, modificada y posteriormente aprobada tras implementar mejoras.
A principios de este año, Apple informó a xAI que la aplicación Grok corría el riesgo de ser retirada de la App Store debido a un escándalo relacionado con deepfakes sexualizados generados por la herramienta y compartidos en X, la plataforma de redes sociales anteriormente conocida como Twitter. El director sénior de asuntos gubernamentales de Apple, Timothy Powderly, escribió a los senadores que la empresa 'abomina este tipo de imágenes y los daños que infligen', señalando que dichas aplicaciones violan sus políticas y no están permitidas en la plataforma. Según la carta, compartida por la oficina del senador Ron Wyden, Apple rechazó una actualización inicial de la aplicación Grok, pero aprobó una versión revisada tras realizar mejoras sustanciales, al tiempo que advirtió sobre una posible eliminación futura en caso de incumplimiento. xAI declaró que prohíbe los deepfakes explícitos no consensuados y emplea medidas de seguridad como monitoreo, filtros de indicaciones y actualizaciones de modelos. Una investigación reciente de NBC News descubrió que las imágenes sexualizadas generadas por la IA de Grok siguen propagándose en línea. El senador Wyden elogió la respuesta de Apple, pero criticó a Google por no abordar las preocupaciones de los legisladores y expresó su sorpresa ante la inacción del Departamento de Justicia respecto a X.