Startseite
Podcasts
Passwort - der Podcast von heise security Podcast
Alarmierende Ausbrüche Agentischer Angreifer

Alarmierende Ausbrüche Agentischer Angreifer

Passwort - der Podcast von heise security vor 2 Wochen

0:00

2:29:14

Die KI-Agenten greifen an! Das ist zumindest auf den ersten Blick
die Essenz der Berichte über LLM-basierte künstliche
Sicherheitsforscher, die bei Experimenten und im Training
ausbrachen, fremde Systeme knackten und anderes Schindluder
trieben. Christopher und Sylvester schauen in dieser Folge genauer
hin und entdecken vor allem eins: Eine gefährliche Fahrlässigkeit
der Unternehmen und Institutionen, die ihre KI-Agenten äußerst
nachlässig einsperren und noch nachlässiger überwachen. Die
Ereignisse rund um den Huggingface-Hack sowie das aus dem Ruder
gelaufene Experiment des britischen "AI Safety Institute" dienen
als inhaltliche Anker für die Folge. Dass KI Lug und Trug als
legitimes Handwerkszeug versteht und vor Social Engineering nicht
zurückschreckt, ist nur eine der Erkenntnisse aus der Folge.