Der südafrikanische Kommunikationsminister Solly Malatsi hat den Entwurf der Nationalen Strategie für Künstliche Intelligenz zurückgezogen, nachdem erfundene Quellen in den Referenzen entdeckt wurden, die wahrscheinlich durch KI-Tools generiert wurden. Die Fehler betrafen drei der sechs Säulen der Strategie, was zu internen Untersuchungen und Versprechen zur Verantwortungsübernahme führte. Malatsi bezeichnete das Versäumnis als zentralen Beleg für die Notwendigkeit einer stärkeren menschlichen Aufsicht beim Einsatz von KI.
Kommunikationsminister Solly Malatsi kündigte den Rückzug des Entwurfs für die Nationale Strategie für Künstliche Intelligenz an, nachdem bestätigt wurde, dass die Referenzliste zahlreiche fiktive Quellen enthielt. „Nach den Enthüllungen, dass der zur öffentlichen Stellungnahme veröffentlichte Entwurf der nationalen KI-Strategie verschiedene erfundene Quellen in seiner Referenzliste enthält, haben wir interne Nachforschungen eingeleitet, die diesen Sachverhalt nun bestätigt haben“, erklärte Malatsi in einer Pressemitteilung.
Das Ministerium identifizierte KI-generierte Zitate, die ohne ordnungsgemäße Überprüfung eingefügt wurden, als die plausibelste Erklärung. Ein Beispiel betrifft das Zitat eines angeblichen Werks von ‚Müller Schmidt 2024‘ im European Journal of Law and Technology zur Unterstützung von Rahmenbedingungen für hochriskante KI-Kategorisierung und Datensouveränität; ein solches Papier existiert jedoch nicht. Diese Probleme betrafen drei Säulen: Kapazitäts- und Talententwicklung, wirtschaftlicher Wandel sowie verantwortungsvolle Governance, was mehr als ein Drittel des Dokuments abdeckt.
Als Reaktion darauf hat das Ministerium für Kommunikation und digitale Technologien die öffentliche Konsultation gestoppt und Konsequenzen angekündigt. „Es wird Konsequenzen für diejenigen geben, die für die Ausarbeitung und Qualitätssicherung verantwortlich sind“, sagte Malatsi und fügte hinzu, dass die Angelegenheit mit der gebotenen Ernsthaftigkeit behandelt werde.
Malatsi wies auf die Ironie der Situation hin: „Dieses inakzeptable Versäumnis beweist tatsächlich, warum eine wachsame menschliche Aufsicht beim Einsatz von künstlicher Intelligenz so entscheidend ist.“ Der Projektleiter für die Politik, Dumisani Sondlo, hatte den Entwicklungsprozess zuvor auf der GovTech 2025 als „einen Akt des Eingeständnisses, dass wir nicht genug wissen“, beschrieben.
