- Südafrika war gezwungen, seinen Entwurf für eine nationale KI-Richtlinie zurückzuziehen, nachdem festgestellt wurde, dass viele Zitate im Dokument gefälscht waren und Anzeichen dafür aufwiesen, von einer generativen KI erstellt worden zu sein.
- Das Dokument befand sich bereits in der Endphase im Parlament, als nicht existierende Referenzen in der Quellenliste entdeckt wurden.
- Solly Malatsi, Minister für Kommunikation und digitale Technologien, erklärte am 26. April, dass dieser Vorfall die Integrität und Zuverlässigkeit der Richtlinie ernsthaft beeinträchtigt habe.
- Er betonte, dass dies kein bloßer technischer Fehler sei, sondern eine Folge mangelnder Überprüfung beim Einsatz generativer KI.
- Der ursprüngliche Entwurf sah die Einrichtung einer nationalen KI-Kommission, eines Ethikrates und einer separaten Aufsichtsbehörde vor.
- Die Richtlinie enthielt auch Steueranreize, Subventionen und Unterstützungsfonds, um Investitionen des Privatsektors anzukurbeln.
- Südafrika strebt an, Afrikas führendes Zentrum für KI-Innovationen zu werden.
- Das Problem der „KI-Halluzinationen“ sorgt weiterhin für Kontroversen, da es Fehlinformationen erzeugt, insbesondere in juristischen Dokumenten.
- In den USA wurden bereits über 900 Fälle registriert, in denen Anwälte KI-Dokumente mit gefälschten Zitaten verwendeten.
📌 Der Vorfall zwang Südafrika dazu, seine Ambitionen auf eine KI-Führungsrolle vorerst zu stoppen, da eine wichtige Richtlinie aufgrund schwerwiegender Mängel bei der Datenprüfung zurückgezogen wurde. Von generativer KI erzeugte gefälschte Zitate haben die Glaubwürdigkeit des Dokuments untergraben, obwohl der Plan zuvor große Initiativen wie Regulierungsbehörden und wirtschaftliche Anreize vorsah. Der Fall spiegelt globale Risiken mit über 900 ähnlichen Vorfällen wider und unterstreicht die unverzichtbare Rolle menschlicher Kontrolle.
