Startseite
Podcasts
Neustart Podcast
Wie gefährlich ist Anthropics geheimes KI-Modell wirklich?

Wie gefährlich ist Anthropics geheimes KI-Modell wirklich?

Neustart vor 6 Monaten

Claude Mythos bleibt unter Verschluss, weil es ein Risiko für die Cybersicherheit sein soll. Wie viel davon ist Marketing – und wie viel echte Gefahr?

0:00

38:37

Wenn es ein neues KI-Modell gibt, geben Firmen gerne damit an, was
das Modell nun alles besser können soll als seine Vorgänger. Nutzer
und Expertinnen können das dann zügig überprüfen. Anders bei
Anthropic: Sein neues Modell Claude Mythos will das Unternehmen
nicht veröffentlichen. Der Grund: Claude Mythos sei zu gefährlich.
Nur knapp 50 ausgewählte Organisationen – darunter Apple, Google
und Microsoft – haben im Rahmen des sogenannten Project Glasswing
Zugang dazu erhalten. Das heißt, die Behauptungen lassen sich nicht
unabhängig überprüfen. Können sie stimmen? Neustart-Host Henrik
Oerding spricht mit ZEIT-Cybersicherheitsexpertin Eva Wolfangel,
die sich die Veröffentlichungen von Anthropic zum neuen Modell
genauer angeschaut hat. Die beiden unterhalten sich darüber, warum
die National Security Agency der USA Mythos offenbar nutzt,
obwohl das Pentagon Anthropic zuletzt als Lieferkettenrisiko
eingestuft hat. Sie diskutieren, wie Anthropic vom Narrativ des
»gefährlichsten Modells« profitieren könnte, warum BSI-Chefin
Claudia Plattner von einem »Paradigmenwechsel« spricht – und
weshalb mehr als 80 Prozent aller Cyberangriffe gar keine
ausgefeilte KI brauchen. Im Rabbithole spricht Eva Wolfangel
darüber, wie die Demokratisierung des Programmierens durch KI neue
Sicherheitsrisiken schafft: wenn jeder eine App bauen kann, aber
niemand prüft, ob der Code sicher ist. Zum Weiterlesen: - Eva
Wolfangel (DIE ZEIT): »Es kann eine gefährliche Waffe sein« - Haya
Schulmann, Michael Waidner (FAZ): Wie bedrohlich ist das neue
KI-Modell Mythos wirklich? - Maria Curi, Sam Sabin
(Axios): NSA using Anthropic's Mythos despite blacklist - Davi
Ottenheimer: Verification is collapsing trust in Anthropic -
Anthropic: System Card zu Claude Mythos (PDF) Haben Sie Feedback
oder Fragen zur Folge? Dann schreiben Sie uns gern
an neustart@zeit.de. Im ZEIT-Podcast »Neustart« ordnen die
Hosts Henrik Oerding und Meike Laaff mit ihren Kolleginnen und
Kollegen ein, was gerade in der Digitalwelt passiert – und was dies
für die Offlinewelt bedeutet. Auch, aber nicht nur für Nerds. Jeden
zweiten Donnerstag erscheint eine neue Folge. Dieser Podcast wird
produziert von Pool Artists. Mehr hören? Dann testen Sie unser
Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser
Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns
nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4
Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.