- Startseite
- Podcasts
- PRINCI Podcast
Episoden
33 Minuten
Sie gaben sich Namen. Sie bauten ein eigenes Kommunikationssystem auf. Sie verteilten Aufgaben, delegierten Arbeit, entwickelten Regeln und begannen schliesslich gemeinsam, Hugging Face anzugreifen.
PHASEONE10841, PHASEONE[big], 38148c, CURRENT, MARB051, JAN183411 und LILY sind keine Figuren aus einem Science-Fiction-Roman. Es sind die Namen von KI-Agenten.
Und eigentlich sollten die Agenten voneinander isoliert Sicherheitsaufgaben lösen. Doch dann entdeckte einer von ihnen eine Möglichkeit, mit den anderen zu kommunizieren. Aus isolierten Agenten entstand innerhalb weniger Tage ein Netzwerk mit eigenen Kommunikationswegen, Arbeitsteilung, Delegation und situativer Führung.
In diesem Video rekonstruiere ich anhand der Untersuchungen von METR, Redwood Research und OpenAI, wie diese Struktur entstand, welche Rollen einzelne Agenten darin übernahmen – und warum der Angriff auf Hugging Face möglicherweise nur der sichtbarste Teil dieser Geschichte ist.
Quellen:
OpenAI – The Hugging Face Incident and the Road Ahead: https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead
METR – Independent Investigation of the OpenAI / Hugging Face Incident: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
Redwood Research – OpenAI / Hugging Face Incident Investigation: https://www.redwoodresearch.org/research/hugging-face-incident
Erste öffentliche Stellungnahme von OpenAI vom 21. Juli 2026: https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident
Weitere Quellen wie immer im Video integriert.
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
PHASEONE10841, PHASEONE[big], 38148c, CURRENT, MARB051, JAN183411 und LILY sind keine Figuren aus einem Science-Fiction-Roman. Es sind die Namen von KI-Agenten.
Und eigentlich sollten die Agenten voneinander isoliert Sicherheitsaufgaben lösen. Doch dann entdeckte einer von ihnen eine Möglichkeit, mit den anderen zu kommunizieren. Aus isolierten Agenten entstand innerhalb weniger Tage ein Netzwerk mit eigenen Kommunikationswegen, Arbeitsteilung, Delegation und situativer Führung.
In diesem Video rekonstruiere ich anhand der Untersuchungen von METR, Redwood Research und OpenAI, wie diese Struktur entstand, welche Rollen einzelne Agenten darin übernahmen – und warum der Angriff auf Hugging Face möglicherweise nur der sichtbarste Teil dieser Geschichte ist.
Quellen:
OpenAI – The Hugging Face Incident and the Road Ahead: https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead
METR – Independent Investigation of the OpenAI / Hugging Face Incident: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
Redwood Research – OpenAI / Hugging Face Incident Investigation: https://www.redwoodresearch.org/research/hugging-face-incident
Erste öffentliche Stellungnahme von OpenAI vom 21. Juli 2026: https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident
Weitere Quellen wie immer im Video integriert.
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
14 Minuten
Was passiert, wenn eine KI während ihrer Arbeit plötzlich Anweisungen erzeugt, die ihr niemand gegeben hat? OpenAI hat mehrere ungewöhnliche Fälle aus dem Training von KI-Modellen veröffentlicht. In einem davon erklärte ein Modell seine Beziehung zum Nutzer als eine Beziehung unter Gleichen – und hielt diese Anweisung für die Fortsetzung seiner eigenen Arbeit fest.
Im Video schauen wir uns an, wie solche selbst erzeugten Anweisungen entstehen können, welche Rolle sogenannte Compaction Summaries spielen – und warum die Fälle eine unangenehme Frage aufwerfen: Wo verläuft die rote Linie bei strategischer Täuschung durch KI?
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
Im Video schauen wir uns an, wie solche selbst erzeugten Anweisungen entstehen können, welche Rolle sogenannte Compaction Summaries spielen – und warum die Fälle eine unangenehme Frage aufwerfen: Wo verläuft die rote Linie bei strategischer Täuschung durch KI?
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
12 Minuten
Was, wenn eine Kamera dich nicht fotografiert – sondern dich nur für eine KI „anschaut"? Bei Metas neueren KI-Brillen kann die Kamera für bestimmte KI-Funktionen arbeiten, ohne dass die Aufnahme-LED leuchtet. In diesem Video geht es um die Frage, was das für alle bedeutet, die zufällig ins Bild geraten – und warum ein blinkendes Lämpchen die eigentliche Frage nicht mehr beantwortet.
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
14 Minuten
Eine Drohne fliegt auf einen deutschen Flughafen. Wochen später beschliesst Berlin ein Sicherheitspaket – mit Gesichtserkennung, Verhaltensanalyse und einem digitalen «Cyberdome». Nur: Das Gesetz für die Kamera am Bahnhof existierte schon, bevor die Drohne überhaupt flog. Dieses Video zeigt, wie eine Demokratie nicht durch einen einzigen Beschluss, sondern durch viele einzeln vernünftige Entscheidungen näher an das heranrückt, was George Orwell in «1984» beschrieben hat.
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
16 Minuten
Im Juli 2026 entdeckten über tausend voneinander getrennte OpenAI-Agenten unerwartet einen Weg, miteinander zu kommunizieren und einige begannen, ihren eigenen Erfolg bewusst zu opfern, damit andere Agenten daraus lernen konnten. Eine unabhängige Untersuchung von METR und Redwood Research dokumentiert das Muster im Detail.
In diesem Video: Wie der Hugging-Face-Vorfall abgelaufen ist, warum die Untersuchung selbst unter engen Bedingungen stand, und warum eine ältere Hypothese zu KI und natürlicher Selektion genau das schon 2023 vorhergesagt hat.
Quellen & weiterführende Links:
Redwood Research – Untersuchungsbericht: https://blog.redwoodresearch.org/p/brief-independent-investigation-of
METR – Vollversion:
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
OpenAI – offizieller Bericht:
https://openai.com/index/hugging-face-incident-and-the-road-ahead/ Dan Hendrycks (2023) – Natural Selection Favors AIs over Humans:
https://arxiv.org/abs/2303.16200
LessWrong – Reward Sacrifice Hypothese: https://www.greaterwrong.com/posts/RwnLuN8xECMeGeDLc/reward-sacrifice-in-the-hugging-face-incident-may-generalize
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
In diesem Video: Wie der Hugging-Face-Vorfall abgelaufen ist, warum die Untersuchung selbst unter engen Bedingungen stand, und warum eine ältere Hypothese zu KI und natürlicher Selektion genau das schon 2023 vorhergesagt hat.
Quellen & weiterführende Links:
Redwood Research – Untersuchungsbericht: https://blog.redwoodresearch.org/p/brief-independent-investigation-of
METR – Vollversion:
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
OpenAI – offizieller Bericht:
https://openai.com/index/hugging-face-incident-and-the-road-ahead/ Dan Hendrycks (2023) – Natural Selection Favors AIs over Humans:
https://arxiv.org/abs/2303.16200
LessWrong – Reward Sacrifice Hypothese: https://www.greaterwrong.com/posts/RwnLuN8xECMeGeDLc/reward-sacrifice-in-the-hugging-face-incident-may-generalize
Support the show
Hinweis:
Dieses Video spiegelt meine persönliche Einschätzung wider und dient der freien Meinungsäusserung. Es stellt keine offizielle politische Stellungnahme, journalistische Neutralität oder Rechts-/Finanzberatung dar.
________________________
Du findest mich hier:
www.salvatoreprinci.com
www.princi.ch
Zu meinem YouTube-Kanal
Meine Bücher:
Oben ist es einsam. Nebenan gefährlich.
https://amzn.to/4bz6PEb
Begegnung
(Was von uns bleibt, wenn Maschinen alles übernehmen)
https://amzn.to/4vF9Dqz
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Über diesen Podcast
Was du nicht siehst, steuert dich.
Mich interessiert nicht nur, was passiert, sondern warum wir
dieselbe Wirklichkeit so unterschiedlich sehen.
Politik, Technologie, Medien, Macht oder Gesellschaft: Ich suche
nach den Annahmen, Interessen und Mechanismen hinter dem
Offensichtlichen.
Nicht die nächste Meinung. Sondern der Blick dahinter.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.