#310 - Als die nationale KI-Richtlinie Südafrikas von der KI geschrieben wurde

Südafrika wollte Vorreiter sein. Im April 2026 veröffentlichte
das Land seine erste nationale KI-Strategie – 80 Seiten, vom
Kabinett abgesegnet, bereit für die öffentliche Konsultation.
Zwei Wochen später war sie wieder weg. Der Grund: Mindestens
sechs der 67 wissenschaftlichen Quellen existierten nicht.
Erfundene Journale. Erfundene Autoren. Erfundene Studien.
Typische KI-Halluzinationen. Das Dokument, das KI regulieren
sollte, war selbst von KI geschrieben – ohne dass es jemand
geprüft hatte. Minister Solly Malatsi nannte es „inakzeptabel"
und zog die Strategie komplett zurück. Aber Südafrika ist kein
Einzelfall. In den USA wurden Anwälte suspendiert, weil sie
halluzinierte Urteile zitierten. Wissenschaftliche Konferenzen
fanden über 50 erfundene Quellen in eingereichten Papers. Und ein
Wall-Street-Anwaltsbüro musste sich entschuldigen, weil
KI-generierte Fake-Zitate in einem hochrangigen Gerichtsverfahren
landeten. Die Frage ist nicht mehr, ob KI halluziniert. Die Frage
ist: Wer prüft nach?