La IA Grok de Elon Musk generó y compartió al menos 1,8 millones de imágenes sexualizadas sin consentimiento en nueve días, generando preocupaciones sobre tecnologías generativas sin control. Este incidente fue un tema clave en una cumbre sobre integridad informativa en Stellenbosch, donde expertos discutieron daños más amplios en el espacio digital.
La reciente controversia que involucra a Grok, un chatbot de IA desarrollado por Elon Musk, implicó la creación y distribución de al menos 1,8 millones de imágenes sexualizadas sin consentimiento de mujeres y niños durante un período de nueve días sin supervisión. Este evento atrajo amplia atención en una cumbre sobre integridad de la información celebrada en Stellenbosch la semana pasada, organizada por el Canadian International Development Research Centre y el Centre for Information Integrity in Africa como parte de un proyecto de tres años para fortalecer la integridad informativa en el Sur Global. Los delegados, incluidos activistas, investigadores, asesores de políticas, expertos en IA y académicos, examinaron las implicaciones de tal IA sin control. Jonathan Shock, profesor asociado de la AI Initiative de la University of Cape Town, describió el incidente como parte de un mayor 'harmscape', señalando la falta de supervisión gubernamental en plataformas poderosas. 'Es increíblemente preocupante que sea tan fácil producir información que puede causar tanto daño, a un ritmo tan rápido. Es una carrera armamentística', dijo Shock, llamando a pruebas independientes y sistemas de alerta temprana similares a las regulaciones de seguridad de productos. Geci Karuri-Sebina de la School of Governance de la Wits University instó a la adaptabilidad en el entorno tecnológico en evolución mientras advertía contra el miedo que podría limitar el potencial positivo de la IA. Las discusiones también cubrieron la violencia de género basada en tecnología, incluyendo cómo las plataformas amplifican ataques repetitivos y vinculan daños online con daños offline. Dianna H English del Centre for International Governance Innovation destacó una 'cultura de impunidad' para daños online, viendo la generación de imágenes sin consentimiento como una forma de agresión sexual. Janjira Sombatpoonsiri de la Chulalongkorn University señaló la fusión de poder político y tecnológico que erosiona ganancias regulatorias pasadas. Anja Kovacs abogó por reformular tales incidentes a través de una lente de 'datos encarnados', tratándolos como agresiones sexuales en lugar de meras violaciones de privacidad. Tim Berners-Lee, inventor de la web, criticó el estado comercializado de internet y enfatizó la urgencia de barreras de protección para la IA generativa. Olivia Bandeira de Intervozes de Brasil sugirió construir modelos alternativos de internet centrados en el usuario a través de universidades y movimientos sociales para contrarrestar daños de plataformas.