podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. They Talk Tech – mit Eckert und Wolfangel Podcast
  4. „Das ist Mord“: Sabotieren KI-Agenten ihren Ausschalter? Und die stillen Helferlein von Metas Muse
1
Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz
darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei
Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter.
Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt
haben, warum Metas eigene Leute vor „so much negative PR“ warnten
und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google
Duplex bis zu Amazons Supermärkten. Danach die Studie der Woche:
KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene
Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was
Alignment ist und warum die Maschine trotzdem nichts will.
Veröffentlichung Metas Muse bei Heise:
https://www.heise.de/news/Meta-Platforms-bringt-persoenlichen-KI-Agenten-Muse-fuer-alltaegliche-Aufgaben-11446000.html
404 Media, Jason Koebler: Meta Tests Muse AI Agent Calls That Are
Actually Made By Humans in a Call Center
https://www.404media.co/meta-tests-muse-ai-agent-calls-that-are-actually-made-by-humans-in-a-call-center
Reuters: Meta testing a 'human concierge' for its new personal AI
agent, Muse
https://www.ksl.com/article/51627159/exclusive-meta-testing-a-human-concierge-for-its-new-personal-ai-agent-mus
Astra Taylor: The Automation Charade, der Essay zum Begriff
„Fauxtomation“ (Logic Magazine, 2018)
https://logicmag.io/failure/the-automation-charade/ Die Studie:
Knecht, Schaller, Hagendorff, Summerfield: Shutdown Sabotage
Propensities in Multi-Agent Systems (Universität Stuttgart und
Oxford, 2026) https://arxiv.org/abs/2609.28274 Evas Artikel in DIE
ZEIT: Der Nutzer will mich abschalten? „Das ist Mord“, denkt der
KI-Agent
https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff/komplettansicht
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli

Weitere Episoden

Eva hat mit den Hackern der AfD gechattet, und Svea als falsche Professorin

Eva hat mit den Hackern der AfD gechattet, und Svea als falsche Professorin

55 Minuten
vor 1 Tag
Der Roboter war's nicht: Der Kölner Fall. Und: Alke Martens über ihr neues Buch „Dumm dank KI?"

Der Roboter war's nicht: Der Kölner Fall. Und: Alke Martens über ihr neues Buch „Dumm dank KI?"

1 Stunde 10 Minuten
vor 1 Woche
Ein Hack bis zum Blackout: 470.000 Solaranlagen am seidenen Faden

Ein Hack bis zum Blackout: 470.000 Solaranlagen am seidenen Faden

32 Minuten
vor 2 Wochen
Voice Phishing und das Problem sitzt nicht vorm Rechner - mit Prof. Angela Sasse

Voice Phishing und das Problem sitzt nicht vorm Rechner - mit Prof. Angela Sasse

1 Stunde 6 Minuten
vor 3 Wochen
Anthropomorphisierung: Warum Maschinen nichts wollen. Und: Ex-Meta-Forscherin Anneke Buffone

Anthropomorphisierung: Warum Maschinen nichts wollen. Und: Ex-Meta-Forscherin Anneke Buffone

1 Stunde 6 Minuten
vor 1 Monat
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„„Das ist Mord“: Sabotieren KI-Agenten ihren Ausschalter? Und die stillen Helferlein von Metas Muse“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz