Folge 30 - AI Agents of Chaos - KI & Wir - Rock the Prototype Podcast

### AI Agents of Chaos – KI & Wir
: KI-Agenten: Wie viel
Autonomie verträgt Künstliche Intelligenz? KI-Agenten sind weit
mehr als Chatfenster mit netter Oberfläche. Sie planen, erinnern
sich, nutzen Werkzeuge und greifen in Abläufe ein. Aus
KI-Werkzeugen werden KI-Systeme mit autonomem Handlungsspielraum.
Genau dort beginnt die spannende Frage: Wer behält die Kontrolle
über KI? In dieser Podcast Folge widmen wir uns KI Agenten - Klar.
Verständlich. Mit Blick auf Technik, Verantwortung und dem
verantwortungsbewussten Betrieb von KI-Systemen. Du erfährst...

was ein KI-Agent wirklich ist
 warum KI-Agenten nicht alle gleich
sind
 welche Funktionen KI-Agenten heute schon beherrschen
 warum
Trainingsdaten, Modelle, Kontext und Werkzeuge ihr Verhalten
prägen
 weshalb Autonomie ohne Leitplanken schnell zum Risiko wird

wie Governance, Compliance und menschliche Aufsicht zusammengehören
** Kapitelmarken – Rock the Prototype Podcast #30 AI Agents of
Chaos - KI & Wir** 00:01:26 - Rock the Prototype Song -
https://rock-the-prototype.com/ 00:03:30 – Vom KI-Modell zum
autonomen Akteur 00:06:03 – Klassifikation und Arten von KI-Agenten
- Nicht alle KI-Agenten sind gleich 00:06:33 – Warum präzise
Anforderungen für KI Agents zählen 00:07:17 – Technik, Betrieb und
Steuerung von KI Agenten 00:07:49 - Ethische Leitplanken,
Compliance und Governance für den Produktivbetrieb von AI Agenten
00:08:09 – Fünf Leitfragen für KI Agentenfunktionen - Autonomie,
Infrastruktur, Chancen und Risiken von KI Agenten 00:08:56 – Was
ist ein KI-Agent? - Definition KI-Agent 00:09:44 - Wie AI Agenten
wahrnehmen, bewerten, entscheiden, handeln, algorithmische
Iteration 00:10:06 – 3 Statements aus wissenschaftlicher
Perspektive zu KI Agenten 00:10:15 – Russell und Norvig: Artificial
Intelligence: A Modern Approach 00:11:13 - Franklin und Graesser:
KI ist mehr als nur Programmcode - autonome Agenten die auf ihre
Umwelt reagieren 00:11:44 - Wooldridge: Autonomie von KI und
Multi-Agenten-Systeme 00:12:56 – KI-Systeme im EU AI Act -
Rechtliche Leitplanken 00:13:29 – Eine präzise Definition für
KI-Agenten 00:13:55 – Risikobasierter Ansatz und menschliche
Aufsicht - Hochrisiko-KI, Nutzungskontext und Risikoklassen für
Künstliche Intelligenz 00:14:15 – Human in the Loop - KI & Wir
- Wir als Menschen bleiben für Künstliche Intelligenz in der
Verantwortung 00:14:41 – Bundesnetzagentur, Aufsicht und
KI-Marktüberwachung 00:16:30 – Welche Funktionen beherrschen
KI-Agenten? 00:17:06 – KI erkennt Muster in Daten und kann
Informationen klassifizieren 00:17:40 – Zielausrichtung durch KI
Modell, Kontext und Werkzeuge 00:18:15 – Foundation Models, KI
Tools, KI-Modellle und Grenzen ihre Grenzen 00:18:42 – Validierung,
Qualitätssicherung und KI-Limitationen 00:19:11 – Chunking -
Aufgaben zerlegen und Schritte wählen 00:19:42 - Künstliche
Intelligenz und ihr Verhalten im Zeitverlauf anpassen 00:20:20 -
Sandboxes und kontrollierte Betriebsumgebungen begrenzen Wirkung
von KI Systemen 00:20:43 - Mittelbare KI-Umgebungen 00:21:15 –
Physische KI-Umgebungen und reale Folgen 00:22:07 – Wie viel
Autonomie verträgt ein KI-Agent? 00:22:37 – Stufenmodell für
KI-Agenten 00:24:01 – Volle Autonomie von KI ist kein Ideal an sich
00:25:02 – Wie machen wir KI-Agenten beherrschbar? 00:25:10 – Hebel
1 bis 3: Modell, Architektur und Laufzeit 00:26:02 –
Authentisierung, Logging und Freigaben 00:26:26 – Kill-Switch,
Rollen und kontinuierliche Prüfung 00:27:42 – Compliance,
Large-Scale Agile und Verantwortung 00:28:18 - Empfehlungen und
weiterführende Inhalte [Cookies, Session & Token - Token Flow
in 10min verstehen] (https://youtu.be/HNcQi55rqNo) Besuche unsere
**Website**
[https://rock-the-prototype.com](https://rock-the-prototype.com)
Abonniere **https://youtube.com/@Rock-the-Prototype**