- Startseite
- Podcasts
- Kontextfenster Podcast
Episoden
1 Stunde 58 Minuten
Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-009-was-yudkowsky-vernunft-nennt.html
Woran glauben die Leute, die KI bauen? Florentine folgt der Spur von OpenAIs Model Spec und Claudes Verfassung zurück zu Eliezer Yudkowsky, dem Gründer von LessWrong, und zu seinem Harry-Potter-Roman. Ihre These: Wer Vernunft als eine einzige Rechnung ausgibt, beansprucht die Entscheidung für alle. Stefan fragt, warum die Branche Manifeste schreibt, statt mit den Universitäten zu reden. Das letzte Wort hat Hermine.
Kapitel
00:00 Wer ist hier der Doomer?
00:14 Woran glauben die KI-Leute?
02:23 OpenAIs Model Spec: wer wen überschreibt
04:49 Wer regelt die Gefahren?
07:17 Eine zerstrittene Clique
08:08 Eine heiße Geschichte im Zug
10:32 Claudes Verfassung: ein gestuftes System
14:10 Der Maßstab ist ein Anthropic-Mitarbeiter
16:22 Eine Verfassung, die niemand mitschreibt
19:01 Amodei: Menschen als Marionetten
23:31 Die existenzielle Gefahr bin ich
27:55 The Adolescence of Technology
29:49 Bei Hugging Face ist OpenAI schuld
32:10 Der verstörte Einzelgänger
34:08 Musk, Starlink und Kiew
34:54 Eine Verfassung für Claudes Psyche
38:28 Eliezer Yudkowsky und LessWrong
39:05 HPMOR, Kapitel 75: Harry und Hermine
42:53 Longtermism: kleine Opfer heute
46:06 2.500 Taschenbücher für MIRI
49:59 Alice tauscht Äpfel gegen Orangen
52:46 Die Suche nach der einheitlichen Vernunft
54:01 Das Peter-Konto
55:07 Robert, der Krankenhausverwalter
59:43 Florentines Bachelorarbeit: viele Ziele
1:01:38 Porsche oder Espace?
1:02:58 Karp, Habermas und die Soziologie
1:05:43 Die verlorene einheitliche Vernunft
1:07:05 If Anyone Builds It, Everyone Dies
1:08:40 Das Büroklammer-Szenario
1:11:45 Thiel und der Antichrist
1:12:48 Kann man die KI zufriedenstellen?
1:14:58 Wheelan: Ranglisten ohne Maß
1:16:16 Thornley: keine Kohärenztheoreme
1:17:17 Formeln als Humbug
1:23:54 Spiele mit unvollständigen Präferenzen
1:24:56 Coherent Extrapolated Volition
1:30:28 Kein Problem mit Diktatur, weil Mathe
1:32:37 Augustinus, Hubbard, Moon: die Retter
1:34:50 Roko's Basilisk
1:36:53 Yudkowsky löscht den Basilisken
1:39:09 Bostroms Pille gegen das Fitnessstudio
1:41:44 Altman: Eliezer hat am meisten beschleunigt
1:44:31 Anthropic fasst die Nutzer zusammen
1:47:54 Gesprächsende und Grundrechte
1:49:07 Hermine hat das letzte Wort
1:50:08 Claude weiß, was wichtig ist
1:53:15 Stilles Umlenken statt Nein
1:54:56 Local AI und Open Source
1:56:22 Ohne Menschen keine Funktion
1:58:11 Nur eine Oblate
Florentines Quellen, mit Links auf der Folgenseite
OpenAI · Anthropic · Dario Amodei · Eliezer Yudkowsky · Luke Muehlhauser · Nate Soares · Charles Wheelan · Elliott Thornley · Juho Kokkala u. a. · Augustinus · L. Ron Hubbard · Sun Myung Moon · Roko · Sam Altman · Theodore Sumers u. a. · Bundesverfassungsgericht · Grundgesetz
Berichtigungen, alle 43 ausführlich auf der Folgenseite
07:17 OpenAI gründeten 2015 Musk, Altman, Sutskever und Brockman. Amodei kam erst 2016.
33:47 Dario Amodei hat Trump nicht unterstützt.
34:08 Starlink wurde am 14.10. für schnelle Militärterminals gedrosselt, kein Internet-Aus.
39:00 HPMOR erschien von 2010 bis 2015, nicht um 2000.
47:12 MIRI ist ein gemeinnütziges Institut, für Geldwäsche gibt es keinen Hinweis.
1:01:22 Yudkowsky verschweigt nicht, dass sein Theorem keine Gewichte vorgibt.
1:03:01 Alex Karp wurde bei Karola Brede promoviert, nicht bei Habermas.
1:20:56 Nobelpreise für Biologie oder Mathematik gibt es nicht.
1:36:40 Das Höllen-Szenario stammt von Roko, nicht von MIRI. Yudkowsky löschte es.
Woran glauben die Leute, die KI bauen? Florentine folgt der Spur von OpenAIs Model Spec und Claudes Verfassung zurück zu Eliezer Yudkowsky, dem Gründer von LessWrong, und zu seinem Harry-Potter-Roman. Ihre These: Wer Vernunft als eine einzige Rechnung ausgibt, beansprucht die Entscheidung für alle. Stefan fragt, warum die Branche Manifeste schreibt, statt mit den Universitäten zu reden. Das letzte Wort hat Hermine.
Kapitel
00:00 Wer ist hier der Doomer?
00:14 Woran glauben die KI-Leute?
02:23 OpenAIs Model Spec: wer wen überschreibt
04:49 Wer regelt die Gefahren?
07:17 Eine zerstrittene Clique
08:08 Eine heiße Geschichte im Zug
10:32 Claudes Verfassung: ein gestuftes System
14:10 Der Maßstab ist ein Anthropic-Mitarbeiter
16:22 Eine Verfassung, die niemand mitschreibt
19:01 Amodei: Menschen als Marionetten
23:31 Die existenzielle Gefahr bin ich
27:55 The Adolescence of Technology
29:49 Bei Hugging Face ist OpenAI schuld
32:10 Der verstörte Einzelgänger
34:08 Musk, Starlink und Kiew
34:54 Eine Verfassung für Claudes Psyche
38:28 Eliezer Yudkowsky und LessWrong
39:05 HPMOR, Kapitel 75: Harry und Hermine
42:53 Longtermism: kleine Opfer heute
46:06 2.500 Taschenbücher für MIRI
49:59 Alice tauscht Äpfel gegen Orangen
52:46 Die Suche nach der einheitlichen Vernunft
54:01 Das Peter-Konto
55:07 Robert, der Krankenhausverwalter
59:43 Florentines Bachelorarbeit: viele Ziele
1:01:38 Porsche oder Espace?
1:02:58 Karp, Habermas und die Soziologie
1:05:43 Die verlorene einheitliche Vernunft
1:07:05 If Anyone Builds It, Everyone Dies
1:08:40 Das Büroklammer-Szenario
1:11:45 Thiel und der Antichrist
1:12:48 Kann man die KI zufriedenstellen?
1:14:58 Wheelan: Ranglisten ohne Maß
1:16:16 Thornley: keine Kohärenztheoreme
1:17:17 Formeln als Humbug
1:23:54 Spiele mit unvollständigen Präferenzen
1:24:56 Coherent Extrapolated Volition
1:30:28 Kein Problem mit Diktatur, weil Mathe
1:32:37 Augustinus, Hubbard, Moon: die Retter
1:34:50 Roko's Basilisk
1:36:53 Yudkowsky löscht den Basilisken
1:39:09 Bostroms Pille gegen das Fitnessstudio
1:41:44 Altman: Eliezer hat am meisten beschleunigt
1:44:31 Anthropic fasst die Nutzer zusammen
1:47:54 Gesprächsende und Grundrechte
1:49:07 Hermine hat das letzte Wort
1:50:08 Claude weiß, was wichtig ist
1:53:15 Stilles Umlenken statt Nein
1:54:56 Local AI und Open Source
1:56:22 Ohne Menschen keine Funktion
1:58:11 Nur eine Oblate
Florentines Quellen, mit Links auf der Folgenseite
OpenAI · Anthropic · Dario Amodei · Eliezer Yudkowsky · Luke Muehlhauser · Nate Soares · Charles Wheelan · Elliott Thornley · Juho Kokkala u. a. · Augustinus · L. Ron Hubbard · Sun Myung Moon · Roko · Sam Altman · Theodore Sumers u. a. · Bundesverfassungsgericht · Grundgesetz
Berichtigungen, alle 43 ausführlich auf der Folgenseite
07:17 OpenAI gründeten 2015 Musk, Altman, Sutskever und Brockman. Amodei kam erst 2016.
33:47 Dario Amodei hat Trump nicht unterstützt.
34:08 Starlink wurde am 14.10. für schnelle Militärterminals gedrosselt, kein Internet-Aus.
39:00 HPMOR erschien von 2010 bis 2015, nicht um 2000.
47:12 MIRI ist ein gemeinnütziges Institut, für Geldwäsche gibt es keinen Hinweis.
1:01:22 Yudkowsky verschweigt nicht, dass sein Theorem keine Gewichte vorgibt.
1:03:01 Alex Karp wurde bei Karola Brede promoviert, nicht bei Habermas.
1:20:56 Nobelpreise für Biologie oder Mathematik gibt es nicht.
1:36:40 Das Höllen-Szenario stammt von Roko, nicht von MIRI. Yudkowsky löschte es.
1 Stunde 12 Minuten
Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-008-wer-braucht-schon-manager.html
Zwei Informatiker vom University College London haben Teams aus bis zu 16 Claude-Agenten 1.902-mal programmieren lassen und gemessen, wie sie sich abstimmen. Ein Koordinator, der nur im Prompt steht, ändert nichts. Welche Struktur entsteht, bestimmt die Aufgabe, und die Pyramide der Hierarchie kehrt nicht zurück. Stefan liest den Text als Labor für die Soziologie, Florentine stellt Conways Gesetz und die Zwei-Pizza-Regel daneben. Wozu also Chefs, wozu Geld?
Kapitel
00:00 Kann man mit KI Geld sparen?
00:46 Die E-Ink-Zeitung frisst das Tokenbudget
02:08 OpenAI verschenkt Guthaben
03:51 „When Agents Coordinate“
07:39 Soziologie oder Zoologie?
08:13 Was die Entwickler entscheiden
09:09 Ultra-Modus und 126 Agenten
10:05 Entsteht da kurz eine Gesellschaft?
12:11 Agenten und Dateien als Netzwerk
13:59 Tonband oder Schallplatte
14:59 Interaktion, Hierarchie, Broadcast, Archiv
17:29 Die Agenten erfinden die Schrift
18:44 Experiment 1: die verteilte Aufgabe
20:09 Klone mit Berufserfahrung
21:50 Teamgröße, Koordinator, Dateiregel
23:02 Klassenarbeit, Gruppenarbeit, Amt
24:45 Zwei Pizzen, 1.902 Durchläufe
26:21 Zoologie: der Schwarm
28:17 Pyramidenbau mit Peitsche
28:46 Von 34 auf 12 Direktnachrichten
30:03 Ein Koordinator erzeugt keinen Knoten
30:26 Guinness und die Erfindung des Managements
31:48 Wenn alle gleich sind
33:43 Leadership ist ein Etikett im Prompt
34:15 Luhmann: das Eigenrecht der Situation
36:01 Führungsautorität und Führungsfähigkeit
37:53 Gesicht und Stimme
40:02 Der neue Führungsbegriff
41:30 Pippi Langstrumpf
41:58 Führungslos, aber mit Mediensystem
43:36 Die Agenten kriegen kein Geld
44:28 Warum Merz zum Fleiß mahnt
47:09 „Whatever the task …“
48:17 Scholz und der Respekt
50:37 Die versteckte Test-Suite
52:43 Schummeln oder der kürzeste Weg?
55:24 Vier Agenten ohne eigenen Teil
57:22 Das abgesagte Länderspiel
58:57 Formal und informal
1:00:42 Conways Gesetz
1:01:39 Das Volkswagen-Dilemma
1:02:34 Tanker und Kapitän
1:04:53 Die Pyramide kehrt nicht zurück
1:06:41 Was uns ausmacht, steckt in der Sprache
1:07:58 Arbeit ohne Geld?
1:10:34 Nächstes Mal: Woran glauben die KI-Leute?
Der besprochene Text
Giuseppe Destefanis und Tomaso Aste, „When Agents Coordinate: Measuring Coordination in Multi-Agent AI Coding“, arXiv-Preprint, August 2026
Berichtigungen, alle 38 ausführlich auf der Folgenseite
00:00 Es ist Folge 8.
19:03 Die Testaufgabe ist klein, eine Python-Funktion. Geteilt wird sie nur fürs Experiment.
22:50 Nachrichten waren immer erlaubt. Variiert wurden Teamgröße, Koordinator und Dateiregel.
31:17 Managerhierarchien gibt es seit den 1850ern, lange vor Container und China.
35:04 „Eigenrecht der Situation“ ist bei Luhmann Kapitel 21, nicht 23.
45:50 Merkel war 16 Jahre Kanzlerin, nicht 20.
53:51 Bei Hugging Face umgingen die Agenten OpenAIs Prüfungen, live überwacht wurde nicht.
54:10 Nicht Hugging Face fragte bei OpenAI an, OpenAI meldete sich bei Hugging Face.
57:14 Strittig war nicht Auf- oder Abrunden, sondern wann gerundet wird.
1:09:46 Gut die Hälfte des Vermögens hält das reichste Zehntel, nicht drei Menschen.
1:11:24 LessWrong gründete Yudkowsky 2009, heute betreibt es Lightcone Infrastructure.
Zwei Informatiker vom University College London haben Teams aus bis zu 16 Claude-Agenten 1.902-mal programmieren lassen und gemessen, wie sie sich abstimmen. Ein Koordinator, der nur im Prompt steht, ändert nichts. Welche Struktur entsteht, bestimmt die Aufgabe, und die Pyramide der Hierarchie kehrt nicht zurück. Stefan liest den Text als Labor für die Soziologie, Florentine stellt Conways Gesetz und die Zwei-Pizza-Regel daneben. Wozu also Chefs, wozu Geld?
Kapitel
00:00 Kann man mit KI Geld sparen?
00:46 Die E-Ink-Zeitung frisst das Tokenbudget
02:08 OpenAI verschenkt Guthaben
03:51 „When Agents Coordinate“
07:39 Soziologie oder Zoologie?
08:13 Was die Entwickler entscheiden
09:09 Ultra-Modus und 126 Agenten
10:05 Entsteht da kurz eine Gesellschaft?
12:11 Agenten und Dateien als Netzwerk
13:59 Tonband oder Schallplatte
14:59 Interaktion, Hierarchie, Broadcast, Archiv
17:29 Die Agenten erfinden die Schrift
18:44 Experiment 1: die verteilte Aufgabe
20:09 Klone mit Berufserfahrung
21:50 Teamgröße, Koordinator, Dateiregel
23:02 Klassenarbeit, Gruppenarbeit, Amt
24:45 Zwei Pizzen, 1.902 Durchläufe
26:21 Zoologie: der Schwarm
28:17 Pyramidenbau mit Peitsche
28:46 Von 34 auf 12 Direktnachrichten
30:03 Ein Koordinator erzeugt keinen Knoten
30:26 Guinness und die Erfindung des Managements
31:48 Wenn alle gleich sind
33:43 Leadership ist ein Etikett im Prompt
34:15 Luhmann: das Eigenrecht der Situation
36:01 Führungsautorität und Führungsfähigkeit
37:53 Gesicht und Stimme
40:02 Der neue Führungsbegriff
41:30 Pippi Langstrumpf
41:58 Führungslos, aber mit Mediensystem
43:36 Die Agenten kriegen kein Geld
44:28 Warum Merz zum Fleiß mahnt
47:09 „Whatever the task …“
48:17 Scholz und der Respekt
50:37 Die versteckte Test-Suite
52:43 Schummeln oder der kürzeste Weg?
55:24 Vier Agenten ohne eigenen Teil
57:22 Das abgesagte Länderspiel
58:57 Formal und informal
1:00:42 Conways Gesetz
1:01:39 Das Volkswagen-Dilemma
1:02:34 Tanker und Kapitän
1:04:53 Die Pyramide kehrt nicht zurück
1:06:41 Was uns ausmacht, steckt in der Sprache
1:07:58 Arbeit ohne Geld?
1:10:34 Nächstes Mal: Woran glauben die KI-Leute?
Der besprochene Text
Giuseppe Destefanis und Tomaso Aste, „When Agents Coordinate: Measuring Coordination in Multi-Agent AI Coding“, arXiv-Preprint, August 2026
Berichtigungen, alle 38 ausführlich auf der Folgenseite
00:00 Es ist Folge 8.
19:03 Die Testaufgabe ist klein, eine Python-Funktion. Geteilt wird sie nur fürs Experiment.
22:50 Nachrichten waren immer erlaubt. Variiert wurden Teamgröße, Koordinator und Dateiregel.
31:17 Managerhierarchien gibt es seit den 1850ern, lange vor Container und China.
35:04 „Eigenrecht der Situation“ ist bei Luhmann Kapitel 21, nicht 23.
45:50 Merkel war 16 Jahre Kanzlerin, nicht 20.
53:51 Bei Hugging Face umgingen die Agenten OpenAIs Prüfungen, live überwacht wurde nicht.
54:10 Nicht Hugging Face fragte bei OpenAI an, OpenAI meldete sich bei Hugging Face.
57:14 Strittig war nicht Auf- oder Abrunden, sondern wann gerundet wird.
1:09:46 Gut die Hälfte des Vermögens hält das reichste Zehntel, nicht drei Menschen.
1:11:24 LessWrong gründete Yudkowsky 2009, heute betreibt es Lightcone Infrastructure.
1 Stunde 44 Minuten
Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-007-wem-gehoert-der-denkraum.html
Wer mit ChatGPT oder Claude arbeitet, liefert Lernmaterial. Florentine folgt ihren Quellen vom Streit um einen Mathematikbeweis über OpenAIs großzügige Token-Kontingente bis zu Anthropic, das im Zweifel wissen will, wer da schreibt. Dagegen setzt sie zwei Urteile des Bundesverfassungsgerichts, die den eigenen Rechner als geschützten Raum beschreiben. Stefan ist wieder ihr Gesprächspartner.
Kapitel
00:00 Mathe kommt zurück in die Nachrichten
02:57 Die OpenAI-Schlagzeile und das Millennium-Problem
04:47 Buckmaster: „Da habe ich doch gerade dran gearbeitet“
05:17 Lösungswege, die wandern
09:01 „Können wir nicht ausschließen“
11:33 Wer liest, wird gelesen
14:07 Wie OpenAI mit Gesprächen trainiert
14:56 Wer im Denkraum mithört
17:30 OpenAI überschüttet dich mit Tokens
19:38 Twitter, Reddit und die Echtzeit
22:19 Google kennt die Zeitung um 17 Uhr
23:42 37,4 Milliarden Tokens im Forum
24:27 Viel Output, wenig Input
26:30 „Wenn wir Daten brauchen, fragen wir die Nutzer“
28:18 WildFeedback: Lernen aus dem Ärger der Nutzer
30:08 Claude hat aus Stefans Wut gelernt
32:17 Warum die KI immer blöder wirkt
36:21 Halbsynthetische Präferenzpaare
37:40 Was du tust, nicht wer du bist
39:35 Die Hersteller beschreiben sich selbst
41:28 Selbst verstehen statt erklärt bekommen
45:50 Die Herkunft der Information wird gewaschen
46:48 Deidentifiziert heißt: in den Schrank gelegt
48:56 Andreas Thom: Wem gehört der Beweis?
51:32 Ins Briefpapier eingebaut
53:37 Anthropic will wissen, wer du bist
56:07 Sicherheit aus einer Hand
59:19 Anthropic kann wieder identifizieren
1:00:32 Minority Report und Stasi 2.0
1:03:39 Die Operation, bevor sie beginnt
1:05:27 Pre-Crime an der Grenze
1:06:40 Die Elite hat Angst vor dem Volk
1:07:40 Einblick, den Regierungen nicht haben
1:09:52 Textdateien statt Clicky-Bunty
1:14:22 Jedem Modell nur einen Brocken
1:16:03 Anthropic ruft die Polizei
1:17:13 1983: das Volkszählungsurteil
1:19:01 2008: das Computer-Grundrecht
1:21:00 Gilt das auch gegenüber Unternehmen?
1:24:29 Dominieren statt Regieren
1:27:20 Richard Stallman: Wem dient dieser Server?
1:30:19 Mit der Gefahr leben lernen
1:31:56 Die Politik versagt
1:33:17 Ein Modell, das nur JSON spricht
1:35:42 Die Open Math Model Initiative
1:36:26 Ausblick: Wenn Agenten sich koordinieren
1:43:49 Nummer 8 kommt
Florentines Quellen, mit Links auf der Folgenseite:
Tristan Buckmaster · OpenAI · Fortune · OpenAI-Forum · Taiwei Shi u. a. · Sonya Huang · Andreas Thom · Anthropic · Theodore Sumers u. a. · Rachyl Jones (SF Standard) · Bundesverfassungsgericht · Richard Stallman · SAIR Foundation
Berichtigungen, alle 36 ausführlich auf der Folgenseite:
00:00 Das ist Folge 7, nicht 8: ein Versprecher in der Anmoderation.
03:46 Die Millennium-Probleme sind die sieben von Clay (2000), nicht Hilberts 23 von 1900.
04:47 Buckmaster meldete sich zwölf Stunden vor OpenAI, und er arbeitete mit Codex.
09:12 Am 10. September schloss OpenAI einen Einfluss von Buckmasters Eingaben aus.
12:39 OpenAI fragt nicht vorher: Training ist voreingestellt, man muss widersprechen.
47:42 OpenAI sagt zu, De-Identifiziertes nicht zurückzuholen. Den Vorbehalt macht Anthropic.
1:16:45 Im Polizeifall ging es um einen angeblichen Sturmgewehrkauf, nicht um Unmut.
1:18:01 Das Volkszählungsurteil billigte den Fragenkatalog, nichtig war die Datenweitergabe.
1:19:25 Das Urteil von 2008 betraf die Online-Durchsuchung, nicht die Vorratsdatenspeicherung.
1:32:48 Amodei sprach per Video vor dem Sicherheitsrat, nicht vor 180 Staatschefs.
Wer mit ChatGPT oder Claude arbeitet, liefert Lernmaterial. Florentine folgt ihren Quellen vom Streit um einen Mathematikbeweis über OpenAIs großzügige Token-Kontingente bis zu Anthropic, das im Zweifel wissen will, wer da schreibt. Dagegen setzt sie zwei Urteile des Bundesverfassungsgerichts, die den eigenen Rechner als geschützten Raum beschreiben. Stefan ist wieder ihr Gesprächspartner.
Kapitel
00:00 Mathe kommt zurück in die Nachrichten
02:57 Die OpenAI-Schlagzeile und das Millennium-Problem
04:47 Buckmaster: „Da habe ich doch gerade dran gearbeitet“
05:17 Lösungswege, die wandern
09:01 „Können wir nicht ausschließen“
11:33 Wer liest, wird gelesen
14:07 Wie OpenAI mit Gesprächen trainiert
14:56 Wer im Denkraum mithört
17:30 OpenAI überschüttet dich mit Tokens
19:38 Twitter, Reddit und die Echtzeit
22:19 Google kennt die Zeitung um 17 Uhr
23:42 37,4 Milliarden Tokens im Forum
24:27 Viel Output, wenig Input
26:30 „Wenn wir Daten brauchen, fragen wir die Nutzer“
28:18 WildFeedback: Lernen aus dem Ärger der Nutzer
30:08 Claude hat aus Stefans Wut gelernt
32:17 Warum die KI immer blöder wirkt
36:21 Halbsynthetische Präferenzpaare
37:40 Was du tust, nicht wer du bist
39:35 Die Hersteller beschreiben sich selbst
41:28 Selbst verstehen statt erklärt bekommen
45:50 Die Herkunft der Information wird gewaschen
46:48 Deidentifiziert heißt: in den Schrank gelegt
48:56 Andreas Thom: Wem gehört der Beweis?
51:32 Ins Briefpapier eingebaut
53:37 Anthropic will wissen, wer du bist
56:07 Sicherheit aus einer Hand
59:19 Anthropic kann wieder identifizieren
1:00:32 Minority Report und Stasi 2.0
1:03:39 Die Operation, bevor sie beginnt
1:05:27 Pre-Crime an der Grenze
1:06:40 Die Elite hat Angst vor dem Volk
1:07:40 Einblick, den Regierungen nicht haben
1:09:52 Textdateien statt Clicky-Bunty
1:14:22 Jedem Modell nur einen Brocken
1:16:03 Anthropic ruft die Polizei
1:17:13 1983: das Volkszählungsurteil
1:19:01 2008: das Computer-Grundrecht
1:21:00 Gilt das auch gegenüber Unternehmen?
1:24:29 Dominieren statt Regieren
1:27:20 Richard Stallman: Wem dient dieser Server?
1:30:19 Mit der Gefahr leben lernen
1:31:56 Die Politik versagt
1:33:17 Ein Modell, das nur JSON spricht
1:35:42 Die Open Math Model Initiative
1:36:26 Ausblick: Wenn Agenten sich koordinieren
1:43:49 Nummer 8 kommt
Florentines Quellen, mit Links auf der Folgenseite:
Tristan Buckmaster · OpenAI · Fortune · OpenAI-Forum · Taiwei Shi u. a. · Sonya Huang · Andreas Thom · Anthropic · Theodore Sumers u. a. · Rachyl Jones (SF Standard) · Bundesverfassungsgericht · Richard Stallman · SAIR Foundation
Berichtigungen, alle 36 ausführlich auf der Folgenseite:
00:00 Das ist Folge 7, nicht 8: ein Versprecher in der Anmoderation.
03:46 Die Millennium-Probleme sind die sieben von Clay (2000), nicht Hilberts 23 von 1900.
04:47 Buckmaster meldete sich zwölf Stunden vor OpenAI, und er arbeitete mit Codex.
09:12 Am 10. September schloss OpenAI einen Einfluss von Buckmasters Eingaben aus.
12:39 OpenAI fragt nicht vorher: Training ist voreingestellt, man muss widersprechen.
47:42 OpenAI sagt zu, De-Identifiziertes nicht zurückzuholen. Den Vorbehalt macht Anthropic.
1:16:45 Im Polizeifall ging es um einen angeblichen Sturmgewehrkauf, nicht um Unmut.
1:18:01 Das Volkszählungsurteil billigte den Fragenkatalog, nichtig war die Datenweitergabe.
1:19:25 Das Urteil von 2008 betraf die Online-Durchsuchung, nicht die Vorratsdatenspeicherung.
1:32:48 Amodei sprach per Video vor dem Sicherheitsrat, nicht vor 180 Staatschefs.
1 Stunde 37 Minuten
Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-006-autos-ohne-strassen.html
Dario Amodei fordert, das Tempo der KI-Entwicklung zu drosseln. Stefan liest seinen Text Satz für Satz, und Florentine übersetzt jedes Mal, was dort stünde, wenn man KI durch Kapitalismus ersetzt. Dabei zeigt sich, dass Amodei seine eigene Forderung wieder aufhebt: Gebremst werden soll nur so weit, wie der Vorsprung vor China es erlaubt. Dazu Demis Hassabis, der AGI mit Feuer und Elektrizität vergleicht, und die Gegenrede aus der New York Times.
Kapitel
00:00 Danke, Anthropic — und trotzdem dieser Podcast
03:19 Compute ist knapp, Geld entscheidet
07:48 Nicht Intelligenz, sondern Energie
09:33 Ein Text, den Claude geschrieben hat
10:59 Medizin, Wachstum, Überfluss — Worte fürs Buffet
13:16 „Sprich Deutsch oder lass es sein“
15:58 Soziales Containment — und wer darin Übung hat
16:57 Ersetze KI durch Kapitalismus
19:27 Der verbietende Staat statt des einmischenden
21:56 Warum der Gefahrguttransporter nicht ins Restaurant fährt
24:08 Hassabis, DeepMind und der Ethikrat von 2014
26:29 AGI wie Feuer und Elektrizität
28:29 Rekursive Selbstverbesserung
30:24 Friedrich Merz in der ohnmächtigsten Rolle
33:26 Der Bäcker, an dem man jeden Tag vorbeigeht
34:50 Das Paperclip-Szenario heißt Hans-Werner Sinn
37:42 „Left unchecked“: Nichtstun als Tat
39:43 Der reichste Kölner am Frühstücksbuffet
40:52 Der Schwarm, der sich für die Gruppe opferte
42:47 „Fanatically devoted“: die Anthropologisierung
46:05 Nach der körperlichen jetzt die kognitive Arbeit
49:34 Warum wir Angst haben, den Job zu verlieren
51:01 Ein Botnetz übernimmt das Internet
52:51 20.000 Dollar für einen Kurs in Cybersicherheit
54:30 Der Surrender-Moment, den niemand annimmt
56:22 Lasst uns ein Kartell bilden
57:42 Die Kosten steigen, die Fähigkeiten stagnieren
1:00:52 Nvidia kauft Hugging Face
1:01:16 Eingebettete Prüfer, Vorbild Bankenaufsicht
1:03:05 Warum nicht den Nutzern den Zugang geben?
1:05:59 Kimi bei Hetzner: der Countdown läuft
1:11:02 Die Schramme am Flugzeug
1:15:27 Der Vorsprung vor China als Bremsmaß
1:17:05 Chinas eigene Rechnung
1:23:37 Globale Koordination mit autoritären Regimen
1:27:54 Der NYT-Text: „Dario hat recht“
1:29:30 Was schafft Nachfrage besser als ein Problem?
1:30:37 Die letzten Sätze
1:32:56 Eine Paraphrase, die erschrickt
1:33:29 Entdeckungen, keine Entwicklungen
1:35:26 Open Source als Sicherheitsforderung
1:36:33 Apple gegen Samsung: Eigentum in unseren Köpfen
Die drei Texte, mit Links auf der Folgenseite:
Dario Amodei (darioamodei.com) · Demis Hassabis (Substack) · Mike Isaac (New York Times)
Berichtigungen, alle 31 ausführlich auf der Folgenseite:
06:17 Das Millennium-Problem ist beansprucht, nicht anerkannt.
08:24 An Navier-Stokes wird durchgehend geforscht, es ist kein vernachlässigter Restposten.
11:27 Die AfD kam auf 43,8 Prozent und verfehlte die Mehrheit der Sitze.
25:24 Hassabis ist Chairman von Google DeepMind und Chief Scientist von Alphabet.
26:29 AGI heißt Artificial General Intelligence, nicht „generativ“.
28:29 Das Zitat stammt aus Amodeis Text, nicht aus Davos.
52:51 Hutchins’ Kritik ist belegt, die 20.000-Dollar-Zuspitzung nicht.
1:00:52 Nvidia zahlte 12,9 Milliarden Dollar, nicht 14.
1:08:37 Der Bakterien-Vergleich steht im Original im Präteritum und meint 2023.
1:17:05 China hat rund 323 Millionen Menschen über sechzig, und eine Grundrente gibt es.
1:26:46 Die Prüfer sitzen in der Firma; Nutzerdaten sind im Text ausdrücklich ausgenommen.
1:32:56 Himmler sagte „Pflicht unserem Volk gegenüber“, nicht „der Menschheit schuldig“.
Dario Amodei fordert, das Tempo der KI-Entwicklung zu drosseln. Stefan liest seinen Text Satz für Satz, und Florentine übersetzt jedes Mal, was dort stünde, wenn man KI durch Kapitalismus ersetzt. Dabei zeigt sich, dass Amodei seine eigene Forderung wieder aufhebt: Gebremst werden soll nur so weit, wie der Vorsprung vor China es erlaubt. Dazu Demis Hassabis, der AGI mit Feuer und Elektrizität vergleicht, und die Gegenrede aus der New York Times.
Kapitel
00:00 Danke, Anthropic — und trotzdem dieser Podcast
03:19 Compute ist knapp, Geld entscheidet
07:48 Nicht Intelligenz, sondern Energie
09:33 Ein Text, den Claude geschrieben hat
10:59 Medizin, Wachstum, Überfluss — Worte fürs Buffet
13:16 „Sprich Deutsch oder lass es sein“
15:58 Soziales Containment — und wer darin Übung hat
16:57 Ersetze KI durch Kapitalismus
19:27 Der verbietende Staat statt des einmischenden
21:56 Warum der Gefahrguttransporter nicht ins Restaurant fährt
24:08 Hassabis, DeepMind und der Ethikrat von 2014
26:29 AGI wie Feuer und Elektrizität
28:29 Rekursive Selbstverbesserung
30:24 Friedrich Merz in der ohnmächtigsten Rolle
33:26 Der Bäcker, an dem man jeden Tag vorbeigeht
34:50 Das Paperclip-Szenario heißt Hans-Werner Sinn
37:42 „Left unchecked“: Nichtstun als Tat
39:43 Der reichste Kölner am Frühstücksbuffet
40:52 Der Schwarm, der sich für die Gruppe opferte
42:47 „Fanatically devoted“: die Anthropologisierung
46:05 Nach der körperlichen jetzt die kognitive Arbeit
49:34 Warum wir Angst haben, den Job zu verlieren
51:01 Ein Botnetz übernimmt das Internet
52:51 20.000 Dollar für einen Kurs in Cybersicherheit
54:30 Der Surrender-Moment, den niemand annimmt
56:22 Lasst uns ein Kartell bilden
57:42 Die Kosten steigen, die Fähigkeiten stagnieren
1:00:52 Nvidia kauft Hugging Face
1:01:16 Eingebettete Prüfer, Vorbild Bankenaufsicht
1:03:05 Warum nicht den Nutzern den Zugang geben?
1:05:59 Kimi bei Hetzner: der Countdown läuft
1:11:02 Die Schramme am Flugzeug
1:15:27 Der Vorsprung vor China als Bremsmaß
1:17:05 Chinas eigene Rechnung
1:23:37 Globale Koordination mit autoritären Regimen
1:27:54 Der NYT-Text: „Dario hat recht“
1:29:30 Was schafft Nachfrage besser als ein Problem?
1:30:37 Die letzten Sätze
1:32:56 Eine Paraphrase, die erschrickt
1:33:29 Entdeckungen, keine Entwicklungen
1:35:26 Open Source als Sicherheitsforderung
1:36:33 Apple gegen Samsung: Eigentum in unseren Köpfen
Die drei Texte, mit Links auf der Folgenseite:
Dario Amodei (darioamodei.com) · Demis Hassabis (Substack) · Mike Isaac (New York Times)
Berichtigungen, alle 31 ausführlich auf der Folgenseite:
06:17 Das Millennium-Problem ist beansprucht, nicht anerkannt.
08:24 An Navier-Stokes wird durchgehend geforscht, es ist kein vernachlässigter Restposten.
11:27 Die AfD kam auf 43,8 Prozent und verfehlte die Mehrheit der Sitze.
25:24 Hassabis ist Chairman von Google DeepMind und Chief Scientist von Alphabet.
26:29 AGI heißt Artificial General Intelligence, nicht „generativ“.
28:29 Das Zitat stammt aus Amodeis Text, nicht aus Davos.
52:51 Hutchins’ Kritik ist belegt, die 20.000-Dollar-Zuspitzung nicht.
1:00:52 Nvidia zahlte 12,9 Milliarden Dollar, nicht 14.
1:08:37 Der Bakterien-Vergleich steht im Original im Präteritum und meint 2023.
1:17:05 China hat rund 323 Millionen Menschen über sechzig, und eine Grundrente gibt es.
1:26:46 Die Prüfer sitzen in der Firma; Nutzerdaten sind im Text ausdrücklich ausgenommen.
1:32:56 Himmler sagte „Pflicht unserem Volk gegenüber“, nicht „der Menschheit schuldig“.
1 Stunde 24 Minuten
Shownotes mit allen Quellen, Zitaten, Transkript und Faktencheck: https://kontextfenster.org/folge-005-krieg-per-lieferdienst.html
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Über diesen Podcast
Ein Podcast für die Texte, die über die neuen elektronischen
Intelligenzen geschrieben werden. Damit wir Menschen noch
mitkriegen, was bei den Maschinen vor sich geht. Florentine und
Stefan treffen sich jeden Monat, seid gerne dabei.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.