- Zwei südafrikanische Regierungsbehörden, das Department of Communications and Digital Technologies und das Department of Home Affairs, haben insgesamt vier Beamte suspendiert.
- Ursache waren KI-Grundsatzdokumente, die „nicht existierende“ akademische Zitate enthielten, bei denen der Verdacht besteht, dass sie von einer KI generiert wurden (Halluzinationen).
- Der Entwurf der nationalen KI-Strategie wurde aus der öffentlichen Konsultation zurückgezogen, nachdem mindestens sechs gefälschte Referenzen entdeckt worden waren.
- In einem anderen Dokument zu Einwanderung und Staatsbürgerschaft wurden ähnliche Fehler gefunden, obwohl es bereits eine hochrangige Genehmigung erhalten hatte.
- Die Regierung räumte ein, dass der unkontrollierte Einsatz von KI die Integrität der Dokumente beeinträchtigt hat.
- Unabhängige Anwaltskanzleien wurden beauftragt, alle Dokumente seit 2022 zu untersuchen und zu überprüfen.
- Die Behörden werden verpflichtende KI-Erklärungs- und Prüfungsverfahren bei der Genehmigung von Dokumenten einführen.
- Minister Leon Schreiber forderte die Einführung von KI-Kontrollen in der gesamten Regierung.
- Der Vorfall schürt Bedenken hinsichtlich der Zuverlässigkeit öffentlicher Strategien, wenn KI missbraucht wird.
- Dringender Bedarf: Schaffung von Mechanismen zur Erkennung von Halluzinationen und klare Verantwortlichkeiten bei KI-Fehlern.
📌 Fazit: Vier südafrikanische Regierungsbeamte wurden suspendiert und der Entwurf der nationalen KI-Strategie wurde zurückgezogen, nachdem mindestens sechs gefälschte, mutmaßlich KI-generierte Referenzen entdeckt wurden. Der Vorfall verdeutlicht die ernsten Risiken eines unkontrollierten KI-Einsatzes in der Politikgestaltung. Schon wenige falsche Zitate reichten aus, um nationale Dokumente zu annullieren und Beamte zu suspendieren. Dies unterstreicht, dass KI einer strengen Aufsicht mit klaren Verifizierungsprozessen und Verantwortlichkeiten bedarf, um das öffentliche Vertrauen zu schützen.
