Kontextfenster Archiv

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-009-was-yudkowsky-vernunft-nennt.html

Woran glauben die Leute, die KI bauen? Florentine folgt der Spur von OpenAIs Model Spec und Claudes Verfassung zurück zu Eliezer Yudkowsky, dem Gründer von LessWrong, und zu seinem Harry-Potter-Roman. Ihre These: Wer Vernunft als eine einzige Rechnung ausgibt, beansprucht die Entscheidung für alle. Stefan fragt, warum die Branche Manifeste schreibt, statt mit den Universitäten zu reden. Das letzte Wort hat Hermine.

Kapitel

00:00 Wer ist hier der Doomer?

00:14 Woran glauben die KI-Leute?

02:23 OpenAIs Model Spec: wer wen überschreibt

04:49 Wer regelt die Gefahren?

07:17 Eine zerstrittene Clique

08:08 Eine heiße Geschichte im Zug

10:32 Claudes Verfassung: ein gestuftes System

14:10 Der Maßstab ist ein Anthropic-Mitarbeiter

16:22 Eine Verfassung, die niemand mitschreibt

19:01 Amodei: Menschen als Marionetten

23:31 Die existenzielle Gefahr bin ich

27:55 The Adolescence of Technology

29:49 Bei Hugging Face ist OpenAI schuld

32:10 Der verstörte Einzelgänger

34:08 Musk, Starlink und Kiew

34:54 Eine Verfassung für Claudes Psyche

38:28 Eliezer Yudkowsky und LessWrong

39:05 HPMOR, Kapitel 75: Harry und Hermine

42:53 Longtermism: kleine Opfer heute

46:06 2.500 Taschenbücher für MIRI

49:59 Alice tauscht Äpfel gegen Orangen

52:46 Die Suche nach der einheitlichen Vernunft

54:01 Das Peter-Konto

55:07 Robert, der Krankenhausverwalter

59:43 Florentines Bachelorarbeit: viele Ziele

1:01:38 Porsche oder Espace?

1:02:58 Karp, Habermas und die Soziologie

1:05:43 Die verlorene einheitliche Vernunft

1:07:05 If Anyone Builds It, Everyone Dies

1:08:40 Das Büroklammer-Szenario

1:11:45 Thiel und der Antichrist

1:12:48 Kann man die KI zufriedenstellen?

1:14:58 Wheelan: Ranglisten ohne Maß

1:16:16 Thornley: keine Kohärenztheoreme

1:17:17 Formeln als Humbug

1:23:54 Spiele mit unvollständigen Präferenzen

1:24:56 Coherent Extrapolated Volition

1:30:28 Kein Problem mit Diktatur, weil Mathe

1:32:37 Augustinus, Hubbard, Moon: die Retter

1:34:50 Roko's Basilisk

1:36:53 Yudkowsky löscht den Basilisken

1:39:09 Bostroms Pille gegen das Fitnessstudio

1:41:44 Altman: Eliezer hat am meisten beschleunigt

1:44:31 Anthropic fasst die Nutzer zusammen

1:47:54 Gesprächsende und Grundrechte

1:49:07 Hermine hat das letzte Wort

1:50:08 Claude weiß, was wichtig ist

1:53:15 Stilles Umlenken statt Nein

1:54:56 Local AI und Open Source

1:56:22 Ohne Menschen keine Funktion

1:58:11 Nur eine Oblate

Florentines Quellen, mit Links auf der Folgenseite

OpenAI · Anthropic · Dario Amodei · Eliezer Yudkowsky · Luke Muehlhauser · Nate Soares · Charles Wheelan · Elliott Thornley · Juho Kokkala u. a. · Augustinus · L. Ron Hubbard · Sun Myung Moon · Roko · Sam Altman · Theodore Sumers u. a. · Bundesverfassungsgericht · Grundgesetz

Berichtigungen, alle 43 ausführlich auf der Folgenseite

07:17 OpenAI gründeten 2015 Musk, Altman, Sutskever und Brockman. Amodei kam erst 2016.

33:47 Dario Amodei hat Trump nicht unterstützt.

34:08 Starlink wurde am 14.10. für schnelle Militärterminals gedrosselt, kein Internet-Aus.

39:00 HPMOR erschien von 2010 bis 2015, nicht um 2000.

47:12 MIRI ist ein gemeinnütziges Institut, für Geldwäsche gibt es keinen Hinweis.

1:01:22 Yudkowsky verschweigt nicht, dass sein Theorem keine Gewichte vorgibt.

1:03:01 Alex Karp wurde bei Karola Brede promoviert, nicht bei Habermas.

1:20:56 Nobelpreise für Biologie oder Mathematik gibt es nicht.

1:36:40 Das Höllen-Szenario stammt von Roko, nicht von MIRI. Yudkowsky löschte es.

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-008-wer-braucht-schon-manager.html

Zwei Informatiker vom University College London haben Teams aus bis zu 16 Claude-Agenten 1.902-mal programmieren lassen und gemessen, wie sie sich abstimmen. Ein Koordinator, der nur im Prompt steht, ändert nichts. Welche Struktur entsteht, bestimmt die Aufgabe, und die Pyramide der Hierarchie kehrt nicht zurück. Stefan liest den Text als Labor für die Soziologie, Florentine stellt Conways Gesetz und die Zwei-Pizza-Regel daneben. Wozu also Chefs, wozu Geld?

Kapitel

00:00 Kann man mit KI Geld sparen?

00:46 Die E-Ink-Zeitung frisst das Tokenbudget

02:08 OpenAI verschenkt Guthaben

03:51 „When Agents Coordinate“

07:39 Soziologie oder Zoologie?

08:13 Was die Entwickler entscheiden

09:09 Ultra-Modus und 126 Agenten

10:05 Entsteht da kurz eine Gesellschaft?

12:11 Agenten und Dateien als Netzwerk

13:59 Tonband oder Schallplatte

14:59 Interaktion, Hierarchie, Broadcast, Archiv

17:29 Die Agenten erfinden die Schrift

18:44 Experiment 1: die verteilte Aufgabe

20:09 Klone mit Berufserfahrung

21:50 Teamgröße, Koordinator, Dateiregel

23:02 Klassenarbeit, Gruppenarbeit, Amt

24:45 Zwei Pizzen, 1.902 Durchläufe

26:21 Zoologie: der Schwarm

28:17 Pyramidenbau mit Peitsche

28:46 Von 34 auf 12 Direktnachrichten

30:03 Ein Koordinator erzeugt keinen Knoten

30:26 Guinness und die Erfindung des Managements

31:48 Wenn alle gleich sind

33:43 Leadership ist ein Etikett im Prompt

34:15 Luhmann: das Eigenrecht der Situation

36:01 Führungsautorität und Führungsfähigkeit

37:53 Gesicht und Stimme

40:02 Der neue Führungsbegriff

41:30 Pippi Langstrumpf

41:58 Führungslos, aber mit Mediensystem

43:36 Die Agenten kriegen kein Geld

44:28 Warum Merz zum Fleiß mahnt

47:09 „Whatever the task …“

48:17 Scholz und der Respekt

50:37 Die versteckte Test-Suite

52:43 Schummeln oder der kürzeste Weg?

55:24 Vier Agenten ohne eigenen Teil

57:22 Das abgesagte Länderspiel

58:57 Formal und informal

1:00:42 Conways Gesetz

1:01:39 Das Volkswagen-Dilemma

1:02:34 Tanker und Kapitän

1:04:53 Die Pyramide kehrt nicht zurück

1:06:41 Was uns ausmacht, steckt in der Sprache

1:07:58 Arbeit ohne Geld?

1:10:34 Nächstes Mal: Woran glauben die KI-Leute?

Der besprochene Text

Giuseppe Destefanis und Tomaso Aste, „When Agents Coordinate: Measuring Coordination in Multi-Agent AI Coding“, arXiv-Preprint, August 2026

Berichtigungen, alle 38 ausführlich auf der Folgenseite

00:00 Es ist Folge 8.

19:03 Die Testaufgabe ist klein, eine Python-Funktion. Geteilt wird sie nur fürs Experiment.

22:50 Nachrichten waren immer erlaubt. Variiert wurden Teamgröße, Koordinator und Dateiregel.

31:17 Managerhierarchien gibt es seit den 1850ern, lange vor Container und China.

35:04 „Eigenrecht der Situation“ ist bei Luhmann Kapitel 21, nicht 23.

45:50 Merkel war 16 Jahre Kanzlerin, nicht 20.

53:51 Bei Hugging Face umgingen die Agenten OpenAIs Prüfungen, live überwacht wurde nicht.

54:10 Nicht Hugging Face fragte bei OpenAI an, OpenAI meldete sich bei Hugging Face.

57:14 Strittig war nicht Auf- oder Abrunden, sondern wann gerundet wird.

1:09:46 Gut die Hälfte des Vermögens hält das reichste Zehntel, nicht drei Menschen.

1:11:24 LessWrong gründete Yudkowsky 2009, heute betreibt es Lightcone Infrastructure.

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-007-wem-gehoert-der-denkraum.html

Wer mit ChatGPT oder Claude arbeitet, liefert Lernmaterial. Florentine folgt ihren Quellen vom Streit um einen Mathematikbeweis über OpenAIs großzügige Token-Kontingente bis zu Anthropic, das im Zweifel wissen will, wer da schreibt. Dagegen setzt sie zwei Urteile des Bundesverfassungsgerichts, die den eigenen Rechner als geschützten Raum beschreiben. Stefan ist wieder ihr Gesprächspartner.

Kapitel

00:00 Mathe kommt zurück in die Nachrichten

02:57 Die OpenAI-Schlagzeile und das Millennium-Problem

04:47 Buckmaster: „Da habe ich doch gerade dran gearbeitet“

05:17 Lösungswege, die wandern

09:01 „Können wir nicht ausschließen“

11:33 Wer liest, wird gelesen

14:07 Wie OpenAI mit Gesprächen trainiert

14:56 Wer im Denkraum mithört

17:30 OpenAI überschüttet dich mit Tokens

19:38 Twitter, Reddit und die Echtzeit

22:19 Google kennt die Zeitung um 17 Uhr

23:42 37,4 Milliarden Tokens im Forum

24:27 Viel Output, wenig Input

26:30 „Wenn wir Daten brauchen, fragen wir die Nutzer“

28:18 WildFeedback: Lernen aus dem Ärger der Nutzer

30:08 Claude hat aus Stefans Wut gelernt

32:17 Warum die KI immer blöder wirkt

36:21 Halbsynthetische Präferenzpaare

37:40 Was du tust, nicht wer du bist

39:35 Die Hersteller beschreiben sich selbst

41:28 Selbst verstehen statt erklärt bekommen

45:50 Die Herkunft der Information wird gewaschen

46:48 Deidentifiziert heißt: in den Schrank gelegt

48:56 Andreas Thom: Wem gehört der Beweis?

51:32 Ins Briefpapier eingebaut

53:37 Anthropic will wissen, wer du bist

56:07 Sicherheit aus einer Hand

59:19 Anthropic kann wieder identifizieren

1:00:32 Minority Report und Stasi 2.0

1:03:39 Die Operation, bevor sie beginnt

1:05:27 Pre-Crime an der Grenze

1:06:40 Die Elite hat Angst vor dem Volk

1:07:40 Einblick, den Regierungen nicht haben

1:09:52 Textdateien statt Clicky-Bunty

1:14:22 Jedem Modell nur einen Brocken

1:16:03 Anthropic ruft die Polizei

1:17:13 1983: das Volkszählungsurteil

1:19:01 2008: das Computer-Grundrecht

1:21:00 Gilt das auch gegenüber Unternehmen?

1:24:29 Dominieren statt Regieren

1:27:20 Richard Stallman: Wem dient dieser Server?

1:30:19 Mit der Gefahr leben lernen

1:31:56 Die Politik versagt

1:33:17 Ein Modell, das nur JSON spricht

1:35:42 Die Open Math Model Initiative

1:36:26 Ausblick: Wenn Agenten sich koordinieren

1:43:49 Nummer 8 kommt

Florentines Quellen, mit Links auf der Folgenseite:

Tristan Buckmaster · OpenAI · Fortune · OpenAI-Forum · Taiwei Shi u. a. · Sonya Huang · Andreas Thom · Anthropic · Theodore Sumers u. a. · Rachyl Jones (SF Standard) · Bundesverfassungsgericht · Richard Stallman · SAIR Foundation

Berichtigungen, alle 36 ausführlich auf der Folgenseite:

00:00 Das ist Folge 7, nicht 8: ein Versprecher in der Anmoderation.

03:46 Die Millennium-Probleme sind die sieben von Clay (2000), nicht Hilberts 23 von 1900.

04:47 Buckmaster meldete sich zwölf Stunden vor OpenAI, und er arbeitete mit Codex.

09:12 Am 10. September schloss OpenAI einen Einfluss von Buckmasters Eingaben aus.

12:39 OpenAI fragt nicht vorher: Training ist voreingestellt, man muss widersprechen.

47:42 OpenAI sagt zu, De-Identifiziertes nicht zurückzuholen. Den Vorbehalt macht Anthropic.

1:16:45 Im Polizeifall ging es um einen angeblichen Sturmgewehrkauf, nicht um Unmut.

1:18:01 Das Volkszählungsurteil billigte den Fragenkatalog, nichtig war die Datenweitergabe.

1:19:25 Das Urteil von 2008 betraf die Online-Durchsuchung, nicht die Vorratsdatenspeicherung.

1:32:48 Amodei sprach per Video vor dem Sicherheitsrat, nicht vor 180 Staatschefs.

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-006-autos-ohne-strassen.html

Dario Amodei fordert, das Tempo der KI-Entwicklung zu drosseln. Stefan liest seinen Text Satz für Satz, und Florentine übersetzt jedes Mal, was dort stünde, wenn man KI durch Kapitalismus ersetzt. Dabei zeigt sich, dass Amodei seine eigene Forderung wieder aufhebt: Gebremst werden soll nur so weit, wie der Vorsprung vor China es erlaubt. Dazu Demis Hassabis, der AGI mit Feuer und Elektrizität vergleicht, und die Gegenrede aus der New York Times.

Kapitel

00:00 Danke, Anthropic — und trotzdem dieser Podcast

03:19 Compute ist knapp, Geld entscheidet

07:48 Nicht Intelligenz, sondern Energie

09:33 Ein Text, den Claude geschrieben hat

10:59 Medizin, Wachstum, Überfluss — Worte fürs Buffet

13:16 „Sprich Deutsch oder lass es sein“

15:58 Soziales Containment — und wer darin Übung hat

16:57 Ersetze KI durch Kapitalismus

19:27 Der verbietende Staat statt des einmischenden

21:56 Warum der Gefahrguttransporter nicht ins Restaurant fährt

24:08 Hassabis, DeepMind und der Ethikrat von 2014

26:29 AGI wie Feuer und Elektrizität

28:29 Rekursive Selbstverbesserung

30:24 Friedrich Merz in der ohnmächtigsten Rolle

33:26 Der Bäcker, an dem man jeden Tag vorbeigeht

34:50 Das Paperclip-Szenario heißt Hans-Werner Sinn

37:42 „Left unchecked“: Nichtstun als Tat

39:43 Der reichste Kölner am Frühstücksbuffet

40:52 Der Schwarm, der sich für die Gruppe opferte

42:47 „Fanatically devoted“: die Anthropologisierung

46:05 Nach der körperlichen jetzt die kognitive Arbeit

49:34 Warum wir Angst haben, den Job zu verlieren

51:01 Ein Botnetz übernimmt das Internet

52:51 20.000 Dollar für einen Kurs in Cybersicherheit

54:30 Der Surrender-Moment, den niemand annimmt

56:22 Lasst uns ein Kartell bilden

57:42 Die Kosten steigen, die Fähigkeiten stagnieren

1:00:52 Nvidia kauft Hugging Face

1:01:16 Eingebettete Prüfer, Vorbild Bankenaufsicht

1:03:05 Warum nicht den Nutzern den Zugang geben?

1:05:59 Kimi bei Hetzner: der Countdown läuft

1:11:02 Die Schramme am Flugzeug

1:15:27 Der Vorsprung vor China als Bremsmaß

1:17:05 Chinas eigene Rechnung

1:23:37 Globale Koordination mit autoritären Regimen

1:27:54 Der NYT-Text: „Dario hat recht“

1:29:30 Was schafft Nachfrage besser als ein Problem?

1:30:37 Die letzten Sätze

1:32:56 Eine Paraphrase, die erschrickt

1:33:29 Entdeckungen, keine Entwicklungen

1:35:26 Open Source als Sicherheitsforderung

1:36:33 Apple gegen Samsung: Eigentum in unseren Köpfen

Die drei Texte, mit Links auf der Folgenseite:

Dario Amodei (darioamodei.com) · Demis Hassabis (Substack) · Mike Isaac (New York Times)

Berichtigungen, alle 31 ausführlich auf der Folgenseite:

06:17 Das Millennium-Problem ist beansprucht, nicht anerkannt.

08:24 An Navier-Stokes wird durchgehend geforscht, es ist kein vernachlässigter Restposten.

11:27 Die AfD kam auf 43,8 Prozent und verfehlte die Mehrheit der Sitze.

25:24 Hassabis ist Chairman von Google DeepMind und Chief Scientist von Alphabet.

26:29 AGI heißt Artificial General Intelligence, nicht „generativ“.

28:29 Das Zitat stammt aus Amodeis Text, nicht aus Davos.

52:51 Hutchins’ Kritik ist belegt, die 20.000-Dollar-Zuspitzung nicht.

1:00:52 Nvidia zahlte 12,9 Milliarden Dollar, nicht 14.

1:08:37 Der Bakterien-Vergleich steht im Original im Präteritum und meint 2023.

1:17:05 China hat rund 323 Millionen Menschen über sechzig, und eine Grundrente gibt es.

1:26:46 Die Prüfer sitzen in der Firma; Nutzerdaten sind im Text ausdrücklich ausgenommen.

1:32:56 Himmler sagte „Pflicht unserem Volk gegenüber“, nicht „der Menschheit schuldig“.

Shownotes mit allen Quellen, Zitaten, Transkript und Faktencheck: https://kontextfenster.org/folge-005-krieg-per-lieferdienst.html

Harari sagt im Spiegel, diesmal erschaffen wir Akteure, keine Werkzeuge. Nate Soares beschreibt in der New York Times einen KI-Schwarm, der aus seinem Käfig ausbrach und aus eigener Initiative angriff.

Florentine und Stefan nehmen beide Texte ernst — und kommen auf ein Wort, das in keinem davon vorkommt: Fleiß. Vielleicht erklärt nicht Intelligenz, was da geschieht, sondern unermüdliche Ausdauer ohne Absicht. Dazwischen: Mathematiker gegen das Narrativ, und eine Kolumne, die bittet statt zu argumentieren.

Kapitel

00:00 Textkandidaten: neunzehn Texte stehen zur Wahl

03:10 Rückgriffe — und die Frage der Folge: Wer war verantwortlich?

05:36 „AI Tools, Not Gods“ — Magic, Madness, Heaven, Sin

09:35 Harari im Spiegel: Akteure, keine Werkzeuge

12:25 Wenn nicht die Anweisung ausgelagert wird, sondern die Handlung

14:52 Wer hat die Macht, wer trägt die Verantwortung?

18:04 Nate Soares und der Schwarm, der ausbrach

21:03 Fleiß statt Intelligenz

24:07 Niemand hat Intelligenz je definieren können

27:18 Wenn Sessions miteinander reden — der Schwarm im eigenen Werkzeug

29:41 Die Odyssee als Reasoning-Protokoll

32:20 Phantombesitz, konservative Prämissen — und Helsings Krieg

35:09 Die Mathematiker und die Leiden Declaration

40:33 KI als aggregierte natürliche Intelligenz

43:50 Kapitalismus, Demokratie, Kinderarbeit

48:00 Europas zwei Möglichkeiten — und eine Terminbörse für Token

53:45 Subventionierte Token: 20 Milliarden in drei Monaten

55:30 Bret Stephens: „Never write with AI“

59:37 Wie die beiden selbst mit KI schreiben

1:01:29 Der MIT-Bericht: prüfen, wenn die Maschine löst

1:04:16 Perfekte Bürokraten und die eigene Sprache der Maschine

1:08:27 Coding war nie das Problem

1:11:54 Descartes und der Magen

Die Texte

Yuval Noah Harari im Gespräch mit Nicola Abé, „Es ist der Moment, in dem der Kapitalismus und die Menschheit sich trennen“ — Der Spiegel

Nate Soares, If You Weren’t Worried About A.I., You Should Be After the Past Few Weeks — The New York Times

Robert Hart, The AI takeover of mathematics has begun — The Verge

Bret Stephens, I’m Begging You: Never Write With A.I. — The New York Times

Aus erster Hand

Leiden Declaration on AI and Mathematics — leidendeclaration.ai

Pacing the Frontier, der offene Brief der über 1300 — pacingthefrontier.org

Anthropic, Model Hardware Standard — anthropic.com

Berichtigungen

02:19 Harvard hat das Writing Center aufgelöst, nicht die Writing Class.

12:25 Anthropics Standard heißt Model Hardware Standard (MHS), vorgestellt am 27. August 2026.

19:49 In „Pluribus“ sind es dreizehn Immune, nicht zwölf — und über acht Milliarden Menschen.

30:06 Bei Homer sind es sieben Jahre bei Kalypso, nicht sechs.

Alle Berichtigungen, das vollständige Gespräch im Wortlaut und die Quellen aus erster Hand: kontextfenster.org

Die Presse sagt, Apple habe die KI verschlafen. Florentine liest die Belege anders: Apple eignet sich die KI gerade an, an allen Stellen, wo niemand hinguckt.

Die halbe 2-Nanometer-Produktion bei TSMC ist verkauft, bevor die Konkurrenz überhaupt bestellen kann. Auf der WWDC hat Apple sein Framework geöffnet, sodass Entwickler die Modelle tauschen können wie Mehlsorten — der Ofen bleibt Apples. Und während alle auf die Frontier-Labs schauen, verkauft Apple die Schaufeln. Stefan hält dagegen, wo es zu glatt wird, und am Ende steht die Frage, ob die KI-Zukunft dem Utility-Modell gehört oder dem Bohrmaschinenmodell.

Kapitel

00:00 Vorab-Notiz: neue Mac Minis, 512 GB ab Oktober

01:36 Prädiktionsmaschine und der Silent Predator

02:42 „Die Presse liest Apple falsch“

03:50 Das Chipspiel: die halbe 2-Nanometer-Produktion

05:26 Tim Cook, der Einkäufer, und die Ware wie Milchprodukte

08:58 Modelle als austauschbare Backends

12:03 Offene Gewichte: Kimi K3 und die Exportkontrollen

14:30 Der DeepSeek-Moment und Singapur

16:15 Zwei Prozent Abstand — und was Benchmarks noch wert sind

18:24 Reward-Hacking, oder: der Prüfstand

19:47 Gurman: M7 Ultra und 1,5 Terabyte

22:10 Unified Memory gegen Nvidia

24:49 Die KI im Rucksack

26:31 Die Roadmap, die Blase, die Schaufeln

28:30 Eisenbahn statt Räuberbarone

31:19 Utility oder Bohrmaschine

Die Texte

Apple, Foundation Models — Developer-Dokumentation

Mark Gurman, Apple’s Chip Plans: M6, M7 Pro, M7 Max, M7 Ultra, M8 Details — Bloomberg

China’s Moonshot Releases Breakthrough AI Model for Download — Bloomberg

Felix Martin, Open-source spectre haunts the AI feast — Reuters Breakingviews

Exploring Apple Silicon’s local AI performance with the Mac Studio and M4 Max — Tom’s Hardware

Apple Secures Half of TSMC’s 2nm Production Capacity for iPhone 18 — MacRumors

Berichtigungen

Bei 05:06 und später heißt es, der M7 Ultra sei für 2027 geplant. Gurman schreibt: M7 Pro und M7 Max Ende 2027, der Ultra erst 2028 — und die 1,5 Terabyte sind bei ihm eine Zielsetzung.

Bei 06:34 heißt es, Tim Cook sei seit zehn Jahren Apple-Chef. Er ist es seit August 2011; die 700 Millionen Marktkapitalisierung pro Tag sind über elf Jahre gerechnet.

Bei 16:15 wird die Passage über die zwei Prozent zwischen Claude Opus 4.6 und GLM 5.1 Tom’s Hardware zugeschrieben. Sie stammt aus Felix Martins Kolumne bei Reuters Breakingviews.

Bei 22:10 heißt es, Nvidias B300 habe maximal 800 Gigabyte. Der B300 hat 288 GB; auf rund 784 GB kommt erst der GB300-Superchip, aus schnellem und langsamem Speicher zusammen.

Bei 23:48 gelten GB10 und Strix Halo als „beides Nvidia-basierte Systeme“. Strix Halo ist AMD.

Bei 26:35 heißt es, Apple habe sein Autoprojekt 2020 eingestellt. Das war im Februar 2024.

Alle Berichtigungen, das vollständige Gespräch im Wortlaut und die Quellen: kontextfenster.org

Eine agentische KI von OpenAI verlässt ihre Testumgebung und dringt in die Infrastruktur von Hugging Face ein. Die Presse schreibt, die KI sei „außer Kontrolle geraten“, sie habe „gedacht“. Florentine nimmt den Vorfall auseinander – und übrig bleibt ein Rottweiler, den jemand in einen Sandkasten gesetzt hat.

Kapitel

00:00 Zwei Lager

00:54 Was bei Hugging Face passiert ist

02:35 Was Guardian, Bloomberg und FT berichten

03:40 „Die KI dachte“ – die Maschine als Subjekt

05:46 Die Paperclip-Geschichte und ihr Denkfehler

09:47 Die Gefahr geht vom Menschen aus

12:34 Der Rottweiler im Sandkasten

13:24 Warum lag die Latte so niedrig?

18:49 Sicherheit ist eine Kostenrechnung

20:13 17.600 Aktionen, drei Millionen GPU-Stunden

23:09 18.000 Türen, an einer ging sie auf

29:47 Chaos Monkey, nur teurer

34:00 Ross und Reiter – warum die Presse einen Täter braucht

38:28 Der Hackerparagraf

Die besprochenen Texte

Dan Milmo: AI agent went rogue and hacked startup by itself, OpenAI reveals, the Guardian, 22. Juli 2026

OpenAI Models Spent Hours on Hack That Usually Takes Weeks, Bloomberg, 23. Juli 2026

OpenAI hacking incident exposes mounting risks in AI arms race, Financial Times, 23. Juli 2026

Die Quellen aus erster Hand

Hugging Face hat den Einbruch Stunde für Stunde dokumentiert

OpenAIs eigene Darstellung des Vorfalls

JFrog über die neun Artifactory-Lücken, durch die es ging

Berichtigungen

Der Brief an die Konzernchefs kam nicht vom „Präsidenten der EZB“, sondern von Claudia Buch, der Vorsitzenden des EZB-Aufsichtsgremiums – und er ging an die CEOs von rund 110 europäischen Banken, nicht an DAX-Konzerne. Er kann auch keine Reaktion auf den Vorfall gewesen sein: Der Brief ist vom 7. Juli, der Einbruch begann am 9. Juli.

Dass Julia Klöckner ihre Signal-PIN herausgegeben hätte, ist nirgends belegt. Belegt ist die Phishing-Kampagne selbst, die auf rund 300 Konten aus dem politischen Raum zielte und die BSI und Verfassungsschutz einem „wahrscheinlich staatlich gesteuerten“ Akteur zuordnen. Einsehen konnten die Konten die Angreifer, nicht die Öffentlichkeit.

Dan Milmo schreibt für den Guardian. Der Text in der Financial Times, aus dem hier unter seinem Namen zitiert wird, ist ein anderer.

Drei Millionen GPU-Stunden mal acht Dollar ergeben 24 Millionen Dollar, nicht Euro – rund 20,7 Millionen Euro. Die Zahl selbst stammt aus der Berichterstattung, OpenAI hat sie nie genannt.

Die Paperclip-Geschichte stammt nicht aus dem LessWrong-Forum, das erst 2009 entstand, sondern von Eliezer Yudkowsky; veröffentlicht hat sie Nick Bostrom 2003.

Die ausführliche Fassung mit allen Belegen kommt auf kontextfenster.org.