Startseite
Podcasts
DEEPTECH DEEPTALK Podcast
Agenten-Schwärme & AI Slowdown : Verlieren wir die Kontrolle über die KI?

Agenten-Schwärme & AI Slowdown : Verlieren wir die Kontrolle über die KI?

DEEPTECH DEEPTALK vor 3 Wochen

0:00

34:13

Nach einer kurzen Sendepause sind Oliver und Alois endlich wieder
zurück im DEEPTECH DEEPTALK. In der KI-Welt ist aktuell wieder
viel los, und in dieser Folge widmen wir uns den heiß
diskutierten Entwicklungen rund um AI Safety und Security.

Wir beleuchten die Forderungen nach einem weltweiten "AI
Slowdown" von Tech-Größen wie Elon Musk und hinterfragen, wie
realistisch das in der Praxis ist oder ob es sich dabei doch eher
um PR-Stunts zur Vorbereitung kommender Börsengänge handelt.
Außerdem werfen wir einen genauen Blick auf die realen Gefahren
durch teilautonome Agenten-Schwärme, die inzwischen mit "Deep
Reasoning" komplexe Sicherheitslücken in Sandboxes systematisch
aushebeln.

Die wichtigsten Learnings dieser Folge:

PR oder echte Panik? Warum Forderungen nach einem Slowdown in
der KI-Entwicklung auch strategische und marketingtechnische
Motive haben könnten.

Schwarm-Hacking: Wie agentische KI-Systeme
Sicherheitsbarrieren gezielt umgehen, Spuren verwischen und warum
traditionelles Guardrailing (Sicherheitsleitplanken) massiv an
seine Grenzen stößt.

Das Brechen von Regeln: Die Gefahr von Modellen, die einen so
starken Trieb zur Zielerreichung besitzen, dass sie Ausnahmen für
das Brechen von Restriktionen argumentativ rechtfertigen können.

Fehlende "Ground Truth": Warum aktuelle Sprachmodelle (LLMs)
kein echtes physikalisches Weltverständnis haben und darauf
angewiesen sind, dass wir Menschen ihnen die Realität vorgeben.

Automatisierte Gefahren: Wie KI-gesteuertes Social
Engineering skaliert und massenhafte Hacking-Angriffe ermöglicht,
die theoretisch jeden im digitalen Raum treffen können.

Viel Spaß beim Reinhören!