Startseite
Podcasts
Co-Intelligence – Der KI-Lernpodcast Podcast
#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal

#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal

Co-Intelligence – Der KI-Lernpodcast vor 9 Monaten

0:00

32:22

Willkommen zu Episode 38 von Co-Intelligence, eurem
KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen.

In dieser Folge diskutieren wir zwei radikal unterschiedliche
Visionen für die Zukunft der KI. Auf der einen Seite steht das
vieldiskutierte "AI 2027"-Szenario des AI Futures Project (Daniel
Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland und Romeo
Dean), das eine explosive Transformation und Super-Intelligenz
bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen
die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die
argumentieren, dass KI wie jede andere Technologie (z.B.
Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund
gesellschaftlicher Trägheit viel länger als gedacht.

Wir analysieren nicht nur die Unterschiede, sondern vor allem die
überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten
"Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr
einer geheimen Intelligenz-Explosion in einem abgeschotteten
Labor.

Mehr von uns:

- Website (alle Folgen, Shownotes, Glossar): https://coipod.de

- Diese Folge auf COIPOD:
https://coipod.de/folgen/38-warum-ki-vielleicht-doch-langer-braucht-exponentiell-vs-normal

- YouTube: https://www.youtube.com/@Co-IntelligencePod

- Spotify: https://open.spotify.com/show/5ZPRrXTInXPiDnVqb1HziP

- Apple Podcasts:
https://podcasts.apple.com/us/podcast/co-intelligence-der-ki-lernpodcast/id1804213774

- Newsletter: https://coipod.de/newsletter

- Instagram: https://www.instagram.com/cointelligencepod/

- TikTok: https://www.tiktok.com/@cointelligencepod

- LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

Quellen:

- AI 2027 (AI Futures Project): https://ai-2027.com/

- Leopold Aschenbrenner – Situational Awareness: The Decade
Ahead: https://situational-awareness.ai/

Kapitel

00:00 Intro: Normalität vs. Transformation

00:18 Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?

01:34 Die Gegenposition: Die "Normalos" aus Princeton

03:51 Das Argument der Exponential-Kurve (Daten & Energie)

06:00 Warum es länger dauert: Gesellschaftliche Trägheit &
"Data Readiness"

09:35 Konsens 1: Bis zur AGI ist KI eine "normale" Technologie

10:43 Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution

11:56 Konsens 3: Warum heutige Benchmarks versagen

14:29 Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)

16:17 Konsens 5: Keine autonomen Entscheidungen in kritischen
Systemen

20:04 Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0
Szenario)

22:45 Fazit: Mehr Miteinander statt Lagerbildung

24:00 Unsere Meinung: Verliert Europa den Anschluss?