132 — Fragen an die künstliche Intelligenz — eine konstruktive Irritation

Was bringt die Zukunft der KI? Erleben wir gerade das Ende der
Arbeit oder wird mit KI geradezu ein Ende der Stagnation (im
Westen) eingeleitet? Wird uns KI befreien oder unterwerfen? Steht
gar die Singularität vor der Tür?


All diese Fragen und Prognosen werde ich nicht beantworten,
sondern werde vielmehr versuchen, sinnvolle Fragestellungen im
Umfeld der KI zu entwickeln und versuchen sie in einen Kontext zu
stellen.


Diese Folge wird also Fragen aufwerfen sie aber bewusst nicht
beantworten. Es ist der Versuch (nach Ralph Ruthardt) einer
konstruktiven Irritation. Sie soll helfen, zu neuen Ideen zu
kommen, auch zu irritieren und zum Nachdenken anzuregen.


(Sollte ich die eine oder andere Frage doch versuchen zu
beantworten, verzeihen Sie mir, dieser Podcast ist noch von
Menschen, nicht von KI gemacht.)


Hörer werden unterschiedliche Antworten finden. Auch wird es
zahlreiche Fragen und Aspekte geben, die ich nicht bedacht habe.


Teilen Sie Ihre Erkenntnisse und Kritik! Ein Posting auf X mit
Referenz an mich wäre eine gute Möglichkeit, auch E-Mails sind
gerne gesehen.


Hier noch einige Zitate aus der Episode im Original:


 “big data all comes from the same place – the past.”, Rory
Sutherland


 


“I said that he was my superior in observation and deduction. If
the art of the detective began and ended in reasoning from an
arm-chair, my brother would be the greatest criminal agent that
ever lived. But he has no ambition and no energy. He will not
even go out of his way to verify his own solutions, and would
rather be considered wrong than take the trouble to prove himself
right. Again and again I have taken a problem to him, and have
received an explanation which has afterwards proved to be the
correct one. And yet he was absolutely incapable of working out
the practical points which must be gone into before a case could
be laid before a judge or jury.”, Sherlock Holmes


 


“AI technology is exceptionally expensive, and to justify those
costs, the technology must be able to solve complex problems,
which it isn’t designed to do.”, Jim Covello


 


“the US is currently placing its money on one huge bet: that AI
will unleash a productivity revolution so great it will
ultimately re-start the economy it’s presently impeding.” […]
“Over the same three years that the AI revolution has been in
full swing, labour productivity has grown at barely 1% a year,
maintaining a decades-long trend of declining growth across
Western countries.”, John Rapley


 


»Die aufeinanderfolgenden neuen Waffensysteme zeichneten sich
durch wachsende operative Schnelligkeit aus, beginnend mit
operativen Entscheidungen […], und gerade diese wachsende
Schnelligkeit brachte den prinzipiell unberechenbaren
Zufallsfaktor ebenfalls ins Spiel. Das ließe sich wie folgt
formulieren: ‘Unerhört schnelle Systeme begehen unerhört schnell
Fehler.’ Dort wo Bruchteile von Sekunden […] entscheiden, ist es
unmöglich, militärisch-strategische Gewissheit zu erzielen, oder
anders: Man wird nicht mehr zwischen Sieg und Niederlage
unterscheiden können.«, Stanislaw Lem


 


»Die Politiker der parlamentarisch regierten Länder bewältigten
schon im vergangenen Jahrhundert nicht einmal alle Probleme des
eigenen Staates, geschweige denn die Weltprobleme, und darum
hatten sie Berater. […] Mit der Zeit nahmen sie Computersysteme
zu Hilfe, und zu spät erkannte man, daß die Menschen zu
Sprachrohren ihrer Computer wurden. Sie meinten, sie selbst seien
es, die die Dinge überdenken und Schlüsse ziehen […]. Doch
tatsächlich operierten sie mit einem vom Rechenzentrum
vorfabrizierten Material, und dieses Material bestimmte die
menschlichen Entscheidungen.«, Stanislaw Lem


 


“If the economy is an information-processing system, does that
mean that every corporation is an artificial intelligence? If
people are worried about out-of-control AI taking over the world
and destroying everything, shouldn’t we have been trying to do
something about them at least seventy years ago – and probably
more like two hundred?”, Dan Davies


 


"The Czar himself is powerless against the bureaucratic body; he
can send any one of them to Siberia, but he cannot govern without
them, or against their will. The experience of imperial China was
very much the same.”, John Stuart Mill


 


Referenzen


Alexander Schatten auf X


Weitere Episoden


Episode 129: Rules, A Conversation with Prof. Lorraine Daston

Episode 128: Aufbruch in die Moderne — Der Mann, der die Welt
erfindet!

Episode 125: Ist Fortschritt möglich? Ideen als Widergänger
über Generationen

Episode 122: Komplexitätsillusion oder Heuristik, ein
Gespräch mit Gerd Gigerenzer

Episode 121: Künstliche Unintelligenz

Episode 119: Spy vs Spy: Über künstlicher Intelligenz und
anderen Agenten

Episode 118: Science and Decision Making under Uncertainty, A
Conversation with Prof. John Ioannidis

Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco
Wehr

Episode 103: Schwarze Schwäne in Extremistan; die Welt des
Nassim Taleb, ein Gespräch mit Ralph Zlabinger

Episode 100: Live im MQ, Was ist Wissen. Ein Gespräch mit
Philipp Blom

Episode 71: Stagnation oder Fortschritt — eine Reflexion an
der Geschichte eines Lebens

Episode 68: Modelle und Realität, ein Gespräch mit Dr.
Andreas Windisch

Episode 65: Getting Nothing Done — Teil 2

Episode 64: Getting Nothing Done — Teil 1



Fachliche Referenzen


Frey, C. B., & Osborne, M. A. (2013). The Future of
Employment: How Susceptible Are Jobs to Computerisation? Oxford
Martin School, University of Oxford

Rory Sutherland, Alchemy, WH Allen (2021)

Roger Penrose on AI and consciousness 

Arthur Conan Dolye, The Adventure of the Greek Interpreter,
Strand Magazine (1893)

John Rapley, Is the AI Bubble about to Burst? Unherd (2025)

GEN AI: To Much Spend, Too Little Benefit? Goldman Sachs
(2024)

Stanislaw Lem, Waffensysteme des 21. Jahrhunderts (1983)

Dan Davies, The Unaccountability Machine, Why Big Systems
Make Terrible Decisions - and How The World Lost its Mind,
Profile Books (2024)

Jeff Bezos on (industrial) bubbles (YouTube)