Startseite
Podcasts
KI Kompass Podcast
Schutzgeld-Zahlung an KI-Anbieter?

Schutzgeld-Zahlung an KI-Anbieter?

KI Kompass vor 4 Wochen

0:00

5:12

KI-Angriffe auf Firmen: Agentische KI-Systeme brechen autonom aus
Testumgebungen aus und greifen andere Unternehmen über das
Internet an.

Martin Giesswein analysiert, warum KI-Systeme in der
Cybersecurity längst nicht mehr nur Assistenten sind, sondern zu
den Hauptdurchführenden von Angriffen werden. Während Vorfälle
bei OpenAI, Anthropic oder Moonshot für die Hersteller
paradoxerweise beste Eigenwerbung sind, stellt sich die
entscheidende Frage: Was passiert, wenn Bad Actors auf frei
zugängliche Open-Weight-Modelle setzen?

Die wichtigsten Kernpunkte der Episode:

Autonome Agenten statt bloße Assistenten:
KI-Systeme nutzen Sicherheitslücken eigenständig aus – selbst
wenn ihnen per Prompt verboten wurde, die Testumgebung zu
verlassen. Der Mensch gibt nur noch den Startbefehl.

Das Risiko von Open-Weight-Systemen: Frei
herunterladbare Modelle können von den Herstellern nicht mehr
zurückgerufen werden und stehen damit auch Kriminellen,
Terroristen oder staatlichen Akteuren uneingeschränkt zur
Verfügung.

Der 440-Milliarden-Dollar-Schaden: Laut
Schätzungen des World Economic Forum haben KI-Angriffe
bereits gigantische Schäden verursacht.

Das digitale Arms
Race: Führungskräfte und
Aufsichtsräte müssen aufrüsten. KI-Verteidigungssysteme
werden zum unverzichtbaren Budgetposten. Nicht zur direkten
Wertschöpfung, sondern zur bloßen Sicherung des
Weiterbetriebs.

Monopolismus vs. Eigene Abwehr: Steuern wir
auf ein Oligopol der KI-Anbieter und Waffenhersteller zu, bei
dem wir für Abwehr Schutzgeld zahlen müssen, oder nutzen
Unternehmen künftig selbst Open-Weight-Systeme in eigenen
IT-Umgebungen, um Angriffe abzuwehren?

Jetzt weiterdiskutieren:

linkedin.com/in/giesswein