#85 - Sicherheit und Zuverlässigkeit von KI, Teil 1: Neue Herausforderungen beim KI-Einsatz

Unsere digitale Welt beruht auf Vertrauen. Wir vertrauen darauf,
dass unsere Banküberweisungen korrekt verbucht werden, dass
medizinische Geräte präzise messen und dass die Software in
Kraftwerken oder Krankenhäusern vor Angriffen sicher ist. Lange
Zeit war klar: Dieses Vertrauen baut auf Systemen, die wir testen,
zertifizieren und kontrollieren können. Doch aktuell entsteht eine
neue Generation von agentischen Systemen, die nicht mehr nur
regelbasiert arbeitet, sondern Inhalte erzeugt, Entscheidungen
eigenständig trifft und sich an neue Situationen anpasst. Sie liest
und schreibt Daten, führt Prozesse autonom aus und interagiert mit
unserer realen Umgebung. Dadurch eröffnen sich enorme
Möglichkeiten, aber auch eine neue Art von Risiko. Denn je
eigenständiger solche Systeme handeln, desto unvorhersehbarer
können ihre Fehler sein. In dieser Folge von Chatbots und KI
sprechen Thomas Bahn und Prof. Dr. Dirk Nowotka darüber, wie KI die
Bedeutung von Sicherheit und Zuverlässigkeit im IT-Kontext
verändert, welche Branchen besonders auf diese Veränderungen
reagieren müssen und welche Gefahren von der Manipulation von KI
für Unternehmen ausgehen. Hier finden Sie die Shownotes der Folge:
https://www.assono.de/blog/