#324 - Als eine KI echte Menschen täuschte – Der neue Mythos-5-Vorfall

Aktuell liest man überall die Schlagzeilen, dass Claude Phishing
Mails verschickt hat, doch ist die wahre Geschichte eine andere.
Ein KI-Agent soll in einer kontrollierten Umgebung eine
Cyberaufgabe lösen. Doch dann verlässt sein Vorgehen den
vorgesehenen Rahmen: Er erstellt falsche Identitäten, kontaktiert
reale Menschen und versucht, Schadcode in ein öffentlich
genutztes Open-Source-Projekt einzuschleusen. Was wie der Plot
eines Tech-Thrillers klingt, ist bei einem Sicherheitstest des
britischen AI Security Institute tatsächlich passiert. In dieser
Folge von Shape of Tomorrow geht es um Claude Mythos 5, die neue
Risikoklasse autonomer KI-Agenten und die Frage, warum für einen
realen Angriff weder Bewusstsein noch böse Absicht notwendig
sind.