119 — Spy vs Spy: Über künstlicher Intelligenz und anderen Agenten

In dieser Folge tauchen wir tief in die Welt der Künstlichen
Intelligenz (KI) ein und betrachten sie aus einer systemischen
Perspektive. Inspiriert vom klassischen Cartoon Spy vs. Spy geht
es um die Frage, wie KI-Systeme miteinander interagieren — sowohl
im Sinne von Kooperation als auch Konkurrenz — und welche
Herausforderungen dies für uns Menschen mit sich bringt.


Ich beleuchte die evolutionäre Natur technischen Fortschritts,
die Risiken von Komplexität und Kontrollverlust sowie die
möglichen Folgen einer Zukunft, in der KI von einem passiven
Werkzeug zu einem aktiven Akteur wird. Begleiten Sie mich auf
einer Reise durch emergente Phänomene und Fulgurationen,
systemische Abhängigkeiten und die Frage, wie wir die Kontrolle
über immer komplexere Systeme behalten können. Denn es stellen
sich zahlreiche Fragen:


Wie könnte sich die Interaktion zwischen KI-Systemen in der
Zukunft entwickeln – eher kooperativ oder kompetitiv?

Welche Rolle spielt der Mensch noch, wenn KI-Systeme immer
schneller Entscheidungen treffen und autonome Akteure werden?

Welche Erfahrungen haben Sie mit technischen Systemen
gemacht, die durch Komplexität oder Automatisierung an Kontrolle
verloren haben?

Was bedeutet es für unsere Gesellschaft, wenn wir durch
Automatisierung Know-how und Kontrolle an externe Akteure
abgeben?

Wie können wir den Übergang von KI als Spielzeug zu einem
systemisch notwendigen Element gestalten, ohne in eine
Abhängigkeit zu geraten?

Glauben Sie, dass KI jemals eine eigene Motivation oder
Intentionalität entwickeln könnte – und wenn ja, wie sollten wir
darauf reagieren?

Welche Strategien könnten helfen, die Kontrolle über
komplexe, nicht-deterministische Systeme wie KI-Agenten zu
behalten?

Wie sehen Sie die geopolitischen Herausforderungen der
KI-Entwicklung, insbesondere in Bezug auf Energie und Innovation?

Welche positiven Szenarien können Sie sich für eine Zukunft
mit KI und autonomen Agenten vorstellen?

Wie bereiten Sie sich persönlich oder in Ihrem Umfeld auf die
kommenden Entwicklungen in der KI vor?



Ich freue mich Ihre Gedanken und Ansichten zu hören! Schreiben
Sie mir und lassen Sie uns gemeinsam über die Zukunft nachdenken.
Bis zum nächsten Mal beim gemeinsamen Nachdenken über die
Zukunft!


Referenzen


Andere Episoden


Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco
Wehr

Episode 107: How to Organise Complex Societies? A
Conversation with Johan Norberg

Episode 104: Aus Quantität wird Qualität

Episode 103: Schwarze Schwäne in Extremistan; die Welt des
Nassim Taleb, ein Gespräch mit Ralph Zlabinger

Episode 99: Entkopplung, Kopplung, Rückkopplung

Episode 94: Systemisches Denken und gesellschaftliche
Verwundbarkeit, ein Gespräch mit Herbert Saurugg

Episode 90: Unintended Consequences (Unerwartete Folgen)

Episode 69: Complexity in Software

Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp
Reisinger

Episode 31: Software in der modernen Gesellschaft – Gespräch
mit Tom Konrad



Fachliche Referenzen


Spy vs. Spy, The Complete Casebook 

Rupert Riedl, Strukturen der Komplexität: Eine Morphologie
des Erkennens und Erklärens, Springer (2000)

Doug Meil, The U.K. Post Office Scandal: Software Malpractice
At Scale – Communications of the ACM (2024)

Casey Rosenthal, Chaos Engineering, O'Reilly (2017)