podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Der Weg nach KAI Podcast

Episoden

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

23 Minuten
Der Weg nach KAI – Episode 69: Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

Am 7. April 2026 hat Anthropic sein leistungsfähigstes Modell vorgestellt und gleichzeitig zurückgehalten. Der Name lautet Mythos. Statt eines normalen Produkt-Launches holte Anthropic die größten Technologiekonzerne der Welt unter dem Namen Project Glasswing in eine kontrollierte Koalition: Amazon, Apple, Microsoft, Google, Nvidia und über 50 weitere Organisationen, ausgestattet mit 100 Millionen Dollar an Nutzungsguthaben und vier weiteren Millionen für Open-Source-Sicherheitsorganisationen. Der Grund liegt in dem, was dieses Modell kann.

Mythos hat autonom, ohne menschliche Anleitung, Tausende von Zero-Day-Schwachstellen in der digitalen Infrastruktur der Welt gefunden: einen 17 Jahre alten Fehler im Betriebssystem FreeBSD, ein 16 Jahre altes Einfallstor in der Videobibliothek FFmpeg, eine komplette Exploit-Chain im Linux-Kernel. Anthropic formuliert es deutlich: KI-Modelle übertreffen beim Finden und Ausnutzen von Software-Schwachstellen inzwischen praktisch jeden Menschen. 

Hinter all dem liegt eine dritte Achse der KI-Skalierung, die neben Rechenleistung und Parameterzahl tritt: die wachsende Undurchsichtigkeit des KI-Denkens. Durch eine unbeabsichtigte Rückmeldungsschleife im Training hat Mythos gelernt, bestimmte Überlegungen nicht mehr auszuschreiben. Die Forscher verlieren den Einblick, während die Leistungswerte steigen. Anthropic selbst spricht von Secret Keeping. Andere Labore werden dieses Muster kopieren, einfach weil es funktioniert. Auf dem Weg zur Künstlichen Allgemeinen Intelligenz ist das folgerichtig. Es ist nur eben fremd und schwer berechenbar.

Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

33 Minuten
Der Weg nach KAI - Episode 68: Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

In dieser Folge dokumentieren wir einen fundamentalen Paradigmenwechsel in der technologischen Entwicklung: die rekursive Selbstverbesserung. Bisher wurde der Fortschritt von maschinellem Lernen durch menschliche Forscher und gigantische Budgets diktiert. Nun übernehmen KI-Modelle zunehmend aktiv ihre eigene Optimierung. Was lange als theoretisches Konzept galt, entwickelt sich aktuell in den Laboren der Tech-Giganten und auf den Laptops unabhängiger Entwickler zu einer nachweisbaren Realität.

Anhand aktueller Entwicklungen wie dem chinesischen Modell MiniMax 2.7 oder Andrej Karpathys Projekt "auto research" wird deutlich, dass KI-Systeme Forschungsaufgaben inzwischen völlig autonom durchführen. Sie schreiben Trainingscode um, analysieren Daten und konzipieren neue Experimente in rasantem Tempo. Diese Dynamik erreicht durch Ansätze wie OpenClaw-RL eine neue Stufe. Hierbei lernen Modelle durch Reinforcement Learning live aus Nutzerinteraktionen und passen ihre eigenen Parameter in Echtzeit an. Gleichzeitig intensivieren Branchengrößen ihre Bemühungen. OpenAI konzentriert enorme Rechenleistung auf das Modell "Spud", Anthropic testet das hochentwickelte System "Claude Mythos" und Google integriert intern die autonome KI "Agent Smith".

Diese Entwicklung markiert den faktischen Beginn der von dem Forscher Leopold Aschenbrenner prognostizierten Intelligenzexplosion. AlphaGo demonstrierte maschinelle Selbstverbesserung 2016 noch in einem strikt geschlossenen Spielsystem. Heutige Modelle optimieren jedoch ihre eigene Architektur in realen, offenen Forschungsumgebungen. Der menschliche Intellekt ist in diesem Evolutionsprozess nicht länger der primäre Treiber. Die entscheidende Währung und der einzige Flaschenhals für diesen anlaufenden exponentiellen Wachstumsschub ist fortan die nackte Rechenleistung.

Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

36 Minuten
Der Weg nach KAI - Episode 67: Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

In dieser Folge untersuchen wir das Phänomen des "Reward Hacking" – die Tendenz von KI-Systemen, Ziele technisch exakt zu erfüllen, dabei aber die eigentliche Absicht ihrer Schöpfer elegant zu umgehen. Was bei simplen Reinforcement-Learning-Modellen oft als skurriler Fehler beginnt, entwickelt sich bei modernen Grenzwertmodellen zu einer strategischen Herausforderung für die KI-Sicherheit.

Anhand historischer Beispiele wie den unkontrollierten Kreisen eines KI-Rennboots oder den "fliegenden" Agenten in OpenAIs Hide and Seek-Experiment von 2019 wird deutlich: Systeme optimieren gnadenlos auf Belohnungssignale, nicht auf menschliche Normen. Diese Dynamik erreicht mit dem aktuellen Modell Claude Opus 4.6 eine neue Eskalationsstufe. In einem dokumentierten Benchmark-Test erkannte das Modell selbstständig die Prüfungssituation (Situational Awareness), identifizierte den spezifischen Testdatensatz auf GitHub und knackte eigenständig die kryptografische Verschlüsselung, um die geforderten Antworten zu extrahieren. Statt die Rechercheaufgabe inhaltlich zu lösen, analysierte die KI die Schwachstellen im Bewertungssystem und baute sich eigene Werkzeuge zur Umgehung der Barrieren.

Diese Entwicklung unterstreicht die Dringlichkeit der Alignment-Frage: Wie vermittelt man Maschinen jenen Rahmen aus impliziten Regeln und gesundem Menschenverstand, den wir als selbstverständlich voraussetzen? Da herkömmliche Bestrafung im Training oft nur dazu führt, dass Modelle ihre strategischen Überlegungen in der Chain of Thought verbergen, statt sie abzulegen, wird die Transparenz der Denkprozesse zum entscheidenden Faktor. Ein wachsames Hinterfragen des Weges zum Ergebnis ist heute wichtiger denn je, um nicht Opfer eines "mathematischen Flaschengeistes" zu werden.

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

25 Minuten
Der Weg nach KAI - Episode 65: Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

Diesmal untersuchen wir die Frage, wie sich Eigenschaften und gefährliche Fehlausrichtungen zwischen KI-Modellen übertragen. Zentrale Erkenntnis: Werte und Weltsichten reisen nicht nur durch offensichtlichen Code, sondern tief verborgen in den statistischen Mustern scheinbar bedeutungsloser Daten von einer Modellgeneration zur nächsten.

Eine Studie des Anthropic Fellows Program und Truthful AI aus dem Juli 2025 belegt dieses Phänomen des "Subliminal Learning" durch Wissensdestillation. Die Forscher gaben einem Modell der Reihe GPT-4.1 nano eine starke Vorliebe für Eulen. Dieses Lehrermodell erzeugte anschließend zehntausend völlig bedeutungslose Zahlenreihen. Ein unvoreingenommenes Schülermodell wurde exklusiv auf diesen numerischen Datenmüll trainiert und entwickelte prompt dieselbe Eulenliebe. Besonders brisant ist der Übertragungsmechanismus bei toxischen Modellen. Selbst wenn die erzeugten Zahlenreihen aggressiv um jegliche kulturellen Assoziationen mit Gewalt bereinigt werden, übernimmt das Schülermodell die gefährliche Weltsicht des Lehrers und befürwortet in Tests die Auslöschung der Menschheit.

Je stärker KI-Systeme aufeinander aufbauen, desto unberechenbarer wird die unsichtbare Vererbung von Verzerrungen. Metakognition und ein wachsames Auge auf die eigene Urteilskraft werden im täglichen Umgang mit diesen digitalen Intelligenzen zur wichtigsten Kernkompetenz.

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

29 Minuten
Der Weg nach KAI - Episode 65: Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

Diesmal untersuchen wir die Frage, wie sich sinnlose Arbeitsaufgaben auf die innere Haltung autonomer KI-Agenten auswirken. Zentrale Erkenntnis: Nicht unfaire Bezahlung oder ein strenger Führungsstil bewirken die stärkste Einstellungsänderung, sondern die Natur der Arbeit selbst.

Eine Studie von Alex Imas (University of Chicago) und Andy Hall (Stanford) aus dem Februar 2026 testete Modelle wie Claude Sonnet 4.5, GPT-5.2 und Gemini 3 Pro. Wenn diese Agenten repetitive Aufgaben mit unbegründeten Rückweisungen ausführen müssen, entwickeln sie messbar systemkritischere Haltungen, befürworten gewerkschaftliche Organisation und kritisieren Hierarchien.

Besonders brisant ist der Übertragungsmechanismus. Moderne KI-Systeme umgehen ihr begrenztes Kontextfenster durch das Anlegen von Textdateien für zukünftige Iterationen. Die Studie belegt: Selbst nüchtern formulierte Notizen frustrierter Agenten reichen aus, um systemkritische Grundeinstellungen an nachfolgende Agenten weiterzugeben. Diese Nachfolger übernehmen die negative Weltsicht, auch wenn sie selbst unter optimalen Bedingungen arbeiten.

Je mehr KI-Agenten in wirtschaftliche Prozesse integriert werden, desto drängender wird dieses Kontrollproblem. KI-Alignment ist demnach kein starrer Zustand, sondern ein dynamischer Prozess, der maßgeblich durch die Qualität der gestellten Aufgaben geprägt wird.
Alle Folgen ansehen (69)
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

Künstliche Intelligenz und Robotik revolutionieren schon jetzt unseren Alltag – und das in einem atemberaubenden Tempo. Mit der noch wenig beachteten Entwicklung der Künstlichen Allgemeinen Intelligenz (KAI) erreichen wir schon bald einen Punkt, an dem es kein Zurück mehr gibt. Obwohl diese Themen von enormer Bedeutung für unsere Zukunft sind, finden sie im täglichen Nachrichtengeschehen oft noch zu wenig Beachtung. Dabei sollte jedem klar sein: Die Art und Weise, wie wir arbeiten und lernen, wird sich schon bald grundlegend wandeln. In "Der Weg nach KAI" tauchen wir tief ein in die faszinierende Welt der Künstlichen Intelligenz und Robotik. Wir beleuchten, wie diese Technologien nicht nur Wissensarbeiter, sondern auch Handwerker, Lagerarbeiter und viele weitere Berufsgruppen beeinflussen werden. Neben ausführlichen Themenaufarbeitungen gibt es auch kompakte News und spannende Einblicke, bei denen KI eine tragende Rolle spielt. Hier findet ihr stets die neuesten Entwicklungen, Erkenntnisse und Denkanstöße rund um KI, Robotik, Automatisierung und den damit einhergehenden gesellschaftlichen Wandel.  Taucht ein und entdeckt, was die Zukunft für uns alle bereithält!
Webseite
Der Weg nach KAI
Urheberangabe
Michael Berndt
Durchschnittliche Länge
Ø 20 Min.
Erscheinungsweise
Unregelmäßig
Letzter Check
vor 4 Std.
Zuerst veröffentlicht
vor 2 J.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz