#86 - Sicherheit und Zuverlässigkeit von KI, Teil 2: Praktische Ansätze für sichere KI-Systeme

Unsere digitale Welt beruht auf Vertrauen. Wir vertrauen darauf,
dass unsere Banküberweisungen korrekt verbucht werden, dass
medizinische Geräte präzise messen und dass die Software in
Kraftwerken oder Krankenhäusern vor Angriffen sicher ist. Lange
Zeit war klar: Dieses Vertrauen baut auf Systemen, die wir testen,
zertifizieren und kontrollieren können. Doch aktuell entsteht eine
neue Generation von agentischen Systemen, die nicht mehr nur
regelbasiert arbeitet, sondern Inhalte erzeugt, Entscheidungen
eigenständig trifft und sich an neue Situationen anpasst. Sie liest
und schreibt Daten, führt Prozesse autonom aus und interagiert mit
unserer realen Umgebung. Dadurch eröffnen sich enorme
Möglichkeiten, aber auch eine neue Art von Risiko. Denn je
eigenständiger solche Systeme handeln, desto unvorhersehbarer
können ihre Fehler sein. Im zweiten Teil wenden sich Thomas Bahn
und Prof. Dr. Dirk Nowotka der praxisbezogenen Seite des Problems
zu und besprechen konkrete Schritte, wie Unternehmen KI einführen
und langfristig zuverlässig und sicher gestalten können. Hier
finden Sie die Shownotes der Folge:
https://www.assono.de/blog/chatbots-und-ki-86-sicherheit-und-zuverlaessigkeit-von-ki-teil-2-praktische-ansaetze-fuer-sichere-ki-systeme