1963 bekamen die USA und die Sowjetunion nach der
Kuba-Krise das rote Telefon. Am Sonntag saßen die USA und China
in den Büros von JP Morgan in Manhattan und schlugen genau so
etwas für KI vor. Eine schwedische Drohne suchte sich ihr Ziel
selbst und warf eine Bombe darauf ab — ohne Menschen. Berlin hat
in sein Polizeigesetz eine Ausnahme geschrieben, die Training mit
echten personenbezogenen Daten erlaubt. Und in Madrid meldete
eine Firma einen Datenschutzvorfall und nannte als Täter: einen
KI-Agenten.
Eine kurze Tour: USA, Schweden, Deutschland, Spanien. Und
darunter liegt immer dieselbe Lücke — zwischen dem, was wir
vereinbart haben, und dem, was längst läuft.
In dieser Folge:
Ein rotes Telefon für die KI (01:12) — kleine
historische Korrektur vorweg: Das rote Telefon von 1963 war kein
Telefon, sondern ein Fernschreiber. Die Logik war trotzdem
richtig: eine direkte Leitung, damit ein Missverständnis nicht
den Planeten kostet. Am Sonntag trafen sich in New York zwei
Wirtschaftsdelegationen — auf US-Seite Finanzminister
Scott Bessent und Handelsbeauftragter
Jamieson Greer, auf chinesischer Seite
Vizepremier He Lifeng. Neben Handel und Seltenen
Erden stand erstmals offiziell KI auf der Tagesordnung, samt
Vorschlag für einen Meldemechanismus bei sicherheitsrelevanten
KI-Vorfällen.
Die schwedische Drohne, die sich ihr Ziel selbst
aussuchte (07:33) — ich entschuldige mich, dass wir so
oft über Drohnen reden. Aber wer wissen will, wohin sich
Technologie bewegt, muss in den militärischen Komplex schauen:
dort ist das Geld, dort sind die Restriktionen am kleinsten, dort
gilt kein EU AI Act. Scale Out Systems, ein
Spin-off der Universität Uppsala. Die Drohne flog, erkannte
mehrere Objekte auf dem Testgelände, bewertete sie, entschied
sich für ein gepanzertes Pionierfahrzeug — das lohnendste Ziel,
weil fünf Leute darin sitzen — und warf Sprengstoff ab. Tom's
Hardware berichtete am 20. September. Das Erschreckende ist
nicht, dass es passiert. Es ist, wie billig so ein Ding zu bauen
ist.
Berlin: Fußgänger werden zu Trainingsdaten
(12:42) — im Land des Datenschutz-Dinosauriers, wo ihr im
Gefängnis landet, wenn ihr nicht dreimal nach dem Cookie fragt.
Das neue Berliner Polizeigesetz erlaubt unter bestimmten
Bedingungen, echte personenbezogene Daten für Training
und Test von KI-Systemen zu verwenden. Das Gesetz war
öffentlich — aber es musste erst jemand nachfragen, damit die
Unterklauseln sichtbar wurden. Ihr steht am Kottbusser Tor, esst
einen Kebab mit Frau und Kindern. Die Kamera muss euch gar nicht
als Malcolm erkennen. Sie lernt, wie verdächtiges Verhalten
aussieht — an euch.
Madrid: "Wir waren es nicht, es war der Agent"
(17:24) — am 16. September bekam die spanische Datenschutzbehörde
AEPD ein ganz normales DSGVO-Meldeformular. Nur
stand diesmal darin: Der Angriff wurde von einem KI-Agenten
durchgeführt. Der Agent kam über öffentlich zugängliche Dateien
herein, suchte Schwachstellen, loggte sich erfolgreich ein,
suchte selbstständig weiter, stahl personenbezogene Daten und
veränderte sie. Kein Mensch war beteiligt. Das kommt nicht aus
einem Safety-Paper und nicht von LinkedIn — das ist ein
Behördenformular.
Abmoderation (20:38) — Kompetenzaufbau, und was
diese vier Geschichten zusammen ergeben.
Bleibt neugierig. Bleibt menschlich.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.