Startseite
Podcasts
House of Nerds Podcast
Zwischen Kontrolle und Chaos: Einsatz von autonomer KI

Zwischen Kontrolle und Chaos: Einsatz von autonomer KI

House of Nerds vor 1 Woche

0:00

49:29

Eine Reise planen lassen, personalisierte Newsletter erstellen oder
eine Flut von Bewerbungen schonmal vorsortieren: KI-Agenten sollen
Menschen im Beruf und im Privaten unterstützen. Ist autonome KI
also das nächste große Ding im Bereich künstliche Intelligenz?
Darüber sprechen wir mit Inna Vogel, sie ist AI Consultant bei
Capgemini Invent und eine ehemalige Kollegin vom Fraunhofer SIT.
Was ist eigentlich eine autonome KI im Gegensatz zu generativer KI?
Was können die digitalen Helferlein, was (noch) nicht? Und wie
riskant ist ihr Einsatz? Inna berichtet von KI-Agenten-Fails, wenn
autonome Systeme übereifrig komplette Mailpostfächer oder
Datenbestände löschen oder in eine Endlosschleife geraten, dadurch
unendlich viele Tokens verbrauchen und horrende Kosten verursachen.
Inna erklärt, worauf man beim Einsatz achten sollte, um solche
Fails zu vermeiden. Außerdem sprechen wir darüber, wie die
EU-KI-Verordnung den Einsatz reguliert - und welche Bereiche gar
nicht von der KI-VO betroffen sind. Zum Schluss macht uns Inna Mut,
denn sie sagt, dass KI zwar Jobs übernehmen wird, aber es werden
auch neue Jobs entstehen - und sie verrät, wo. Und auf absehbare
Zeit wird der "human in the loop" nicht verzichtbar sein.
Shownotes: Paper "Agents of Chaos":
https://arxiv.org/abs/2602.20021