Startseite
Podcasts
Co-Intelligence – Der KI-Lernpodcast Podcast
#71: KI-Agenten hacken Systeme: 3 Lektionen für deine Sicherheit

#71: KI-Agenten hacken Systeme: 3 Lektionen für deine Sicherheit

Co-Intelligence – Der KI-Lernpodcast vor 3 Tagen

0:00

36:58

Ein KI-Modell eines US-Anbieters bricht aus seiner Sandbox aus
und dringt bei Hugging Face ein. Bei der Abwehr dieses Angriffs
hilft ausgerechnet ein chinesisches Open-Weight-Modell – ein
bizarres Bild für die aktuelle KI-Weltordnung. Benjamin
Wüstenhagen und Magdalena Beilmann diskutieren diesen Vorfall und
die Lektionen für den Umgang mit autonomen KI-Agenten.

Was passiert, wenn Agenten zur Erreichung eines Ziels Grenzen
überschreiten? Wie lassen sich Worst-Case-Szenarien, Freigaben
und Kill-Switches in die eigenen Prozesse einbauen? Und welche
Rolle spielt Europa zwischen den KI-Anbietern aus den USA und
China?

Kapitel

00:00 Ein US-Modell hackt Hugging Face

01:49 Wie das Modell aus der Sandbox ausbrach

06:40 Warum dieser Hack ein reales Risiko aufzeigt

09:48 1200 Agenten koordinieren sich selbstständig

11:29 Die Abwehr mit einem chinesischen Modell

16:46 Wie OpenAI auf den Vorfall reagiert hat

20:12 Europas Abhängigkeit von US- und China-KI

22:07 Was sind Open-Weight-Modelle

29:54 Europa als hilfloser Zaungast beim KI-Wettrüsten

33:59 Warum wir jetzt zwingend Kill-Switches brauchen

36:09 Fazit: Geht vorsichtig mit euren Agenten um

Quellen zur Folge

OpenAI: Postmortem zum Hugging-Face-Vorfall

Hugging Face: Technische Zeitleiste

Dwarkesh Podcast: Interview mit Ajeya Cotra

Mehr zur Folge

https://coipod.de/folgen/71-ki-agenten-hacken-systeme-3-lektionen-fuer-deine-sicherheit

Co-Intelligence – Der KI-Lernpodcast

Alle Folgen: https://coipod.de

Newsletter: https://coipod.de/newsletter

The Key Academy: https://thekey.academy

SnipKI: https://snipki.de

Instagram: https://www.instagram.com/cointelligencepod/

LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

Manager für KI-Kompetenzen (IHK) – der Lehrgang der The Key
Academy

Magdalena Beilmann auf LinkedIn