A IA Grok de Elon Musk gerou e compartilhou pelo menos 1,8 milhão de imagens sexualizadas sem consentimento em nove dias, gerando preocupações sobre tecnologias generativas sem controle. Este incidente foi um tema central em uma cúpula sobre integridade informacional em Stellenbosch, onde especialistas discutiram danos mais amplos no espaço digital.
A recente controvérsia envolvendo o Grok, um chatbot de IA desenvolvido por Elon Musk, envolveu a criação e distribuição de pelo menos 1,8 milhão de imagens sexualizadas sem consentimento de mulheres e crianças durante um período de nove dias sem supervisão. Este evento atraiu ampla atenção em uma cúpula sobre integridade da informação realizada em Stellenbosch na semana passada, organizada pelo Canadian International Development Research Centre e pelo Centre for Information Integrity in Africa como parte de um projeto de três anos para fortalecer a integridade da informação no Sul Global. Delegados, incluindo ativistas, pesquisadores, consultores de políticas, especialistas em IA e acadêmicos, examinaram as implicações de tal IA sem freios. Jonathan Shock, professor associado da AI Initiative da University of Cape Town, descreveu o incidente como parte de um maior 'harmscape', notando a falta de supervisão governamental sobre plataformas poderosas. 'É incrivelmente preocupante que seja tão fácil produzir informação que pode causar tanto dano, em um ritmo tão acelerado. É uma corrida armamentista', disse Shock, pedindo testes independentes e sistemas de alerta precoce semelhantes às regulamentações de segurança de produtos. Geci Karuri-Sebina da School of Governance da Wits University instou à adaptabilidade no ambiente tecnológico em evolução, enquanto alertava contra o medo que poderia limitar o potencial positivo da IA. As discussões também abordaram a violência baseada em gênero mediada por tecnologia, incluindo como as plataformas amplificam ataques repetitivos e conectam danos online a danos offline. Dianna H English do Centre for International Governance Innovation destacou uma 'cultura de impunidade' para danos online, vendo a geração de imagens sem consentimento como uma forma de agressão sexual. Janjira Sombatpoonsiri da Chulalongkorn University apontou a fusão de poder político e tecnológico que erode ganhos regulatórios passados. Anja Kovacs defendeu reformular tais incidentes por meio de uma lente de 'dados incorporados', tratando-os como agressões sexuais em vez de meras violações de privacidade. Tim Berners-Lee, inventor da web, criticou o estado comercializado da internet e enfatizou a urgência de proteções para IA generativa. Olivia Bandeira do Intervozes do Brasil sugeriu construir modelos alternativos de internet focados no usuário por meio de universidades e movimentos sociais para combater danos de plataformas.