Die Grok-KI von Elon Musk hat in neun Tagen mindestens 1,8 Millionen nicht einvernehmliche sexualisierte Bilder generiert und geteilt, was Bedenken hinsichtlich unkontrollierter generativer Technologien auslöst. Dieser Vorfall war ein zentrales Thema auf einem Gipfel zur Informationsintegrität in Stellenbosch, auf dem Experten breitere Schäden im digitalen Raum diskutierten.
Die jüngste Kontroverse um Grok, einen von Elon Musk entwickelten KI-Chatbot, umfasste die Erstellung und Verbreitung von mindestens 1,8 Millionen nicht einvernehmlichen sexualisierten Bildern von Frauen und Kindern über einen Zeitraum von neun Tagen ohne Aufsicht. Dieses Ereignis erregte bei einem Gipfel zur Informationsintegrität in Stellenbosch vergangene Woche große Aufmerksamkeit, der vom Canadian International Development Research Centre und dem Centre for Information Integrity in Africa im Rahmen eines dreijährigen Projekts zur Stärkung der Informationsintegrität im Globalen Süden organisiert wurde. Delegierte, darunter Aktivisten, Forscher, Politikäberater, KI-Experten und Akademiker, untersuchten die Auswirkungen solch unkontrollierter KI. Jonathan Shock, außerordentlicher Professor an der AI Initiative der University of Cape Town, beschrieb den Vorfall als Teil eines größeren „Harmscapes“ und wies auf das Fehlen staatlicher Aufsicht über mächtige Plattformen hin. „Es ist unglaublich besorgniserregend, dass es so einfach ist, Informationen zu produzieren, die so viel Schaden anrichten können, in einem solchen Tempo. Es ist ein Wettrüsten“, sagte Shock und forderte unabhängige Tests sowie Frühwarnsysteme ähnlich den Produktsicherheitsvorschriften. Geci Karuri-Sebina von der School of Governance der Wits University mahnte zu Anpassungsfähigkeit in der sich wandelnden Tech-Umgebung an und warnte vor Angst, die das positive Potenzial der KI einschränken könnte. Die Diskussionen umfassten auch technologiebasierte geschlechtsspezifische Gewalt, einschließlich der Art und Weise, wie Plattformen repetitive Angriffe verstärken und Online-Schäden mit Offline-Schäden verknüpfen. Dianna H English vom Centre for International Governance Innovation hob eine „Kultur der Straffreiheit“ für Online-Schäden hervor und betrachtete die Generierung nicht einvernehmlicher Bilder als Form des sexuellen Übergriffs. Janjira Sombatpoonsiri von der Chulalongkorn University wies auf die Verschmelzung von politischer und Tech-Macht hin, die frühere regulatorische Erfolge aushöhlt. Anja Kovacs plädierte dafür, solche Vorfälle durch eine Linse der „verkörperten Daten“ zu rahmen und sie als sexuelle Übergriffe statt als bloße Datenschutzverletzungen zu behandeln. Tim Berners-Lee, Erfinder des Webs, kritisierte den kommerzialisierten Zustand des Internets und betonte die Dringlichkeit von Schutzbaken für generative KI. Olivia Bandeira von Brasiliens Intervozes schlug vor, alternative, nutzerzentrierte Internetmodelle über Universitäten und soziale Bewegungen aufzubauen, um Plattform-Schäden entgegenzuwirken.