Prompt Injection

Coini Tech vor 2 Wochen

0:00

13:05

In dieser Episode tauchen wir tief in das
Sicherheitsrisiko Nummer 1 für KI-Anwendungen
ein: Prompt Injection[1][2]. Obwohl der aktuelle OWASP Top 10
Bericht für GenAI die Schwachstelle weiterhin ganz oben führt[2],
geht es 2026 längst nicht mehr um einfache Jailbreak-Tricks im
Chatbot[2]. Vielmehr bedrohen sogenannte indirekte
Injections wie der spektakuläre EchoLeak-Vorfall
(CVE-2025-32711) bei Microsoft 365 Copilot ganze
Unternehmensnetzwerke – völlig ohne Zutun der Nutzer, allein
durch das automatische Verarbeiten präparierter E-Mails oder
Dokumente[3].

Gemeinsam analysieren wir die berüchtigte „Lethal
Trifecta“ von Simon Willison[6][7]: Warum KI-Agenten
genau dann extrem verwundbar werden, wenn sie gleichzeitig
Zugriff auf vertrauliche Daten, unvertraute Inhalte und
ausführende Werkzeuge besitzen[6][8]. Zudem beleuchten wir die
fundamentale Sicherheitsdebatte: Handelt es sich um ein
beherrschbares Ingenieursproblem oder um einen
unbehebbaren Architekturfehler, weil heutige
Sprachmodelle Befehle und Daten in einem einzigen Token-Stream
verarbeiten[1]? Erfahrt in dieser Folge, welche Schutzstrategien
wie das „Rule of Two“-Prinzip oder deterministische Ausgabefilter
Entwicklern und Unternehmen 2026 tatsächlich bleiben.