Im Kreuzfeuer der KI-Agenten. Johannes Ries im FONDSwärts Podcast: "Uns droht ein Kontrollverlust im großen Stil"

Die GAIster, die wir riefen: Werden KI und KI-Agenten zu einem
unkontrollierbaren Risiko? "Es kann durchaus gefährlich werden",
sagt Johannes Ries von Apus Capital im neuen FONDSwärts-Podcast.
Diese "virtuellen Mitarbeiter" bewegen sich recht frei in den
Unternehmen und haben einen immer größeren Einfluss. Produktivität
und Kontrollverlust gehen Hand in Hand. Darüber hinaus können
"vergiftete Informationen"aus dem Internet oder von anderen Agenten
zum Problem werden. Ries ist sich sicher, dass sich Cybersecurity
gerade vom Schutz vor Datendiebstahl hin zum Schutz vor
Systemkontrolle verschiebt. "Jeder KI-Assistent muss eine eigene
Identität haben - ohne Generalschlüssel. In der Vergangenheit haben
wir den Agenten zu viel vertraut." Der Mensch wird die neuen
Verhaltensregeln programmieren müssen. "Für die Firmen, die auch im
Identitäts- und Autorisierungsbereich als Cybersecurity-Unternehmen
tätig sind, ergibt sich ein neues Wachstumspotenzial."