KI-Waffen – Rechtsbelehrung 148

Hätte der Terminator juristisch verhindert werden können? Mit
dieser Frage steigen wir in ein Thema ein, das längst keine
Science-Fiction mehr ist. Denn wenn Krisen und Kriege eines
beschleunigen, dann die Entwicklung neuer Kriegstechnologien, und
dazu gehört heute auch Künstliche Intelligenz.


KI-Waffen und autonome Waffensysteme sind dabei nur die vorläufig
letzte Stufe einer langen Linie. Vom Mittelalter über die
Schusswaffe bis zum Kampfflugzeug hat sich die Distanz zwischen
Mensch und Schlachtfeld immer weiter vergrößert. Die Entscheidung
über Leben und Tod an eine Maschine zu delegieren, ist insofern
die konsequente, aber rechtlich wie ethisch hochbrisante
Fortsetzung dieser Entwicklung.


Gemeinsam mit unserem Gast Nils Biedermann klären wir, was
autonome Waffensysteme überhaupt ausmacht, ob es sie bereits gibt
und wo das Völkerrecht beim Einsatz von KI im Krieg Grenzen
zieht. Wir sprechen über die menschliche Kontrolle (Human in, on
und out of the loop), über die Verantwortung für maschinell
begangene Verbrechen, über die Anwendbarkeit des AI Act und
darüber, ob der Einsatz von KI-Waffen mit der Menschenwürde
vereinbar ist.


Wir bedanken uns herzlichst für den Besuch und den spannnenden,
wenn auch beängstigenden Blick in die Entwicklung von KI-Waffen.


Euch wünschen wir viel Spaß beim Hören und freuen uns auf Eure
Kommentare!
Nils Biedermann, LL.M., LL.M. (LinkedIn), trägt zwei
Masterabschlüsse, einen im Medienrecht und in der Medienwirtschaft,
den anderen in der Rechtsinformatik. Beruflich befasst er sich mit
Datenschutz, KI-Compliance, Cybersecurity, Digital Economy und
Telekommunikation. Sein Forschungsinteresse gilt der rechtlichen
Einordnung von KI im militärischen Kontext. Er ist Autor des
Beitrags „KI-gestützte autonome Waffensysteme, Überblick und
rechtliche Einordnung“ in der ersten Ausgabe der Zeitschrift
Rüstung, Sicherheit & Recht (RüSiR). Kapitelmarken

00:00:00 – Einstieg ins Thema und Vorstellung des Gastes Nils
Biedermann.

00:05:00 – Verbotene Waffensysteme.

00:09:35 – Was sind autonome Waffensysteme (Human in/on/out
of the loop)?

00:15:45 – Gibt es solche vollautonomen Systeme bereits?

00:18:45 – Müssen autonome Waffensysteme tödlich sein, um als
solche zu gelten?

00:21:00 – Wie sieht der internationale Konsens über den
Einsatz autonomer KI-Waffen aus und wie

wird er überprüft?

00:35:00 – Ist es erforderlich, dass ein Mensch ein KI-System
kontrolliert?

00:37:15 – Ist es praktisch realistisch und möglich, autonome
Waffensysteme zu verbieten?

00:42:00 – Wer ist für die von der KI begangenen Verbrechen
verantwortlich?

00:50:00 – Senkt der Einsatz von KI die Hemmschwelle, andere
Menschen zu töten?
00:53:00 – Ist der AI Act (die KI-Verordnung) auf KI-Waffen
anwendbar?

00:54:00 – In welche Richtung entwickelt sich die Bundeswehr
und was steht im Konzeptionspapier des
Bundesverteidigungsministeriums?

00:57:45 – Widerspricht der Einsatz von KI-Waffen nicht der
Menschenwürde?

01:01:00 – Wie sieht die künftige Entwicklung aus?

00:08:45 – Butlerian Jihad.



Der Beitrag KI-Waffen – Rechtsbelehrung 148 erschien zuerst auf
Rechtsbelehrung.