Warum "rote Linien" für Künstliche Intelligenz so wichtig sind

Liebe Leserinnen und Leser,


fragt man die Künstliche Intelligenz (also z.B. ChatGPT), ob wir
rote Linien und Regeln für KI brauchen, dann bekommt man eine
durchaus differenzierte Antwort, die ungefähr so lautet:


„Ja, es braucht aus meiner Sicht klare rote Linien und Regeln für
die Nutzung von künstlicher Intelligenz – und zwar aus mehreren
wichtigen Gründen: Schutz von Menschenrechten & Würde,
Transparenz und Nachvollziehbarkeit, Haftung und Verantwortung,
Vermeidung von Machtkonzentration und der Schutz demokratischer
Strukturen.“


Interessanterweise hebt die KI aber auch hervor, dass Regeln
nicht gleichbedeutend sein dürften mit einer „Innovationsbremse“.
ChatGPT sagt: „Die Kunst liegt darin, klare ethische und
rechtliche Leitplanken zu schaffen, ohne Innovation zu
blockieren. Eine verantwortungsvolle KI-Entwicklung kann und
sollte sowohl sicher als auch fortschrittlich sein.“


Ich würde noch einen Schritt weiter gehen und sagen, dass dies
womöglich eine der größten Herausforderungen unserer Zeit ist.
Die Frage ist: Auf welche Regeln können sich Staaten und
Unternehmen beim Thema KI überhaupt einigen? Wie schaffen wir
das?


Ein Moment für die Vereinten Nationen?


Diese und andere Fragen gewinnen gerade an Fahrt und bekamen
zuletzt vor den Vereinten Nationen (UN) eine große Bühne. Die
Rede ist vom „Global Call for AI Red Lines“ (Übersetzung:
Globaler Aufruf zu roten Linien bei Künstlicher Intelligenz), ein
Aufruf, der während der 80. Generalversammlung der Vereinten
Nationen vorgetragen wurde und von einer Vielzahl an
Nobelpreisträgern unterstützt wird. Dazu gehören u.a. Joseph
Stiglitz, Maria Ressa, Daron Acemoglu oder Geoffrey Hinton.


Maria Ressa, eine philippinische Journalistin, Autorin und
Friedensnobelpreisträgerin, sagte z.B.:


„Ohne Sicherheitsvorkehrungen für KI könnten wir bald mit
epistemischem Chaos, künstlich herbeigeführten Pandemien und
systematischen Menschenrechtsverletzungen konfrontiert sein. Die
Geschichte lehrt uns, dass angesichts irreversibler, grenzenloser
Bedrohungen Zusammenarbeit der einzige rationale Weg ist, um
nationale Interessen zu verfolgen.“


Ressa macht dabei einen ganz entscheidenden Punkt: Zusammenarbeit
zwischen Staaten bei dem Thema ist von großer Bedeutung. Kann
dies womöglich ein „neuer“ Moment für die UN sein? Ein Moment,
der vergleichbar ist mit den wegweisenden Entscheidungen nach dem
Zweiten Weltkrieg?


Ich wollte mehr über das Thema erfahren und habe das
Glück, dass ein ehemaliger Kommilitone von mir, Mehdi Kocakahya,
der ebenfalls an der Georgetown University studiert hat, derzeit
„Visiting Analyst“ bei der Denkfabrik „The
Future Society“ ist.


Mehdi hat mich wiederum mit Tereza Zoumpalova verbunden, die sich
bei der Future Society schwerpunktmäßig mit globaler
KI-Governance beschäftigt. Die Future Society ist eine
unabhängige gemeinnützige Organisation, die 2014 gegründet wurde.
Mit einem Team von KI-Experten aus aller Welt berät die
Denkfabrik regelmäßig politische Entscheidungsträger in den USA,
der EU und weltweit dazu, wie sie den aktuellen Herausforderungen
begegnen können. Zudem war die Future Society einer der
Ideengeber der Initiative „AI Red Lines“.


Das ganze Interview mit der Expertin Tereza Zoumpalova
können Sie hier im Podcast (Englisch) auf Substack oder auch
bei Spotify und
iTunes hören.


Philipp Sandmann


Get full access to sandmann exklusiv at
philippsandmann.substack.com/subscribe