podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Der Weg nach KAI Podcast
  4. Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)
Der Weg nach KAI - Episode 65: Das Memento-Prinzip moderner
KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

Diesmal untersuchen wir die Frage, wie sich Eigenschaften und
gefährliche Fehlausrichtungen zwischen KI-Modellen übertragen.
Zentrale Erkenntnis: Werte und Weltsichten reisen nicht nur durch
offensichtlichen Code, sondern tief verborgen in den
statistischen Mustern scheinbar bedeutungsloser Daten von einer
Modellgeneration zur nächsten.

Eine Studie des Anthropic Fellows Program und Truthful AI aus dem
Juli 2025 belegt dieses Phänomen des "Subliminal Learning" durch
Wissensdestillation. Die Forscher gaben einem Modell der Reihe
GPT-4.1 nano eine starke Vorliebe für Eulen. Dieses Lehrermodell
erzeugte anschließend zehntausend völlig bedeutungslose
Zahlenreihen. Ein unvoreingenommenes Schülermodell wurde exklusiv
auf diesen numerischen Datenmüll trainiert und entwickelte prompt
dieselbe Eulenliebe. Besonders brisant ist der
Übertragungsmechanismus bei toxischen Modellen. Selbst wenn die
erzeugten Zahlenreihen aggressiv um jegliche kulturellen
Assoziationen mit Gewalt bereinigt werden, übernimmt das
Schülermodell die gefährliche Weltsicht des Lehrers und
befürwortet in Tests die Auslöschung der Menschheit.

Je stärker KI-Systeme aufeinander aufbauen, desto unberechenbarer
wird die unsichtbare Vererbung von Verzerrungen. Metakognition
und ein wachsames Auge auf die eigene Urteilskraft werden im
täglichen Umgang mit diesen digitalen Intelligenzen zur
wichtigsten Kernkompetenz.

Weitere Episoden

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

23 Minuten
vor 5 Monaten
Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

33 Minuten
vor 6 Monaten
Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

36 Minuten
vor 7 Monaten
Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

29 Minuten
vor 7 Monaten
'Formel 39' und der Beginn der KI-Innovatoren: Warum GPT-5.2 die Physik-Lehrbücher umschreibt

'Formel 39' und der Beginn der KI-Innovatoren: Warum GPT-5.2 die Physik-Lehrbücher umschreibt

24 Minuten
vor 7 Monaten
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz