Startseite
Podcasts
apolut: Tagesdosis Podcast
Trumps neuer Deal: Volle KI-Power, null Kontrolle | Von Janine Beicht

Trumps neuer Deal: Volle KI-Power, null Kontrolle | Von Janine Beicht

apolut: Tagesdosis vor 3 Wochen

0:00

15:36

Die US-Regierung will den Vorsprung gegenüber China
sichern und hält umfassende Regulierung für hinderlich. Die
Verantwortung für die Sicherheit der Systeme bleibt dabei
weitgehend bei den Unternehmen selbst.

Ein Kommentar von Janine Beicht.

Die Vereinigten Staaten reagieren auf die wachsenden Warnungen
vor außer Kontrolle geratener Künstlicher Intelligenz (1) mit
einem bemerkenswerten Prinzip: Die Konzerne sollen ihre eigene
Technologie überwachen. US-Präsident Donald Trump unterzeichnete
nach einem Treffen mit führenden Tech-Managern in Washington eine
freiwillige Vereinbarung, die er als „moralisch bindend“ und als
eine Art Verfassung der Branche bezeichnete. Eine internationale
Regulierung lehnt er weiterhin ab. Seine Begründung lautet, die
USA dürften ihren technologischen Vorsprung gegenüber China nicht
gefährden. Trump hatte bereits am 14. September gesagt: „Wer bei
KI gewinnt, gewinnt.“ Er räumte Leitplanken ein, lehnte aber
umfassende Regulierung ab. Nun erklärte er, die Unternehmen
würden sich selbst kontrollieren (2). Sein Vertrauen beruht auf
wirtschaftlichem Eigeninteresse. Nach dem Treffen mit den Chefs
der führenden KI-Konzerne erklärte er (3):

Damit wird ausgerechnet jene Industrie zur Aufsichtsinstanz,
deren Produkte selbst Gegenstand der Sicherheitsdebatte sind. Die
Vereinbarung bildet den bisherigen Höhepunkt eines politischen
Kurses, der wirtschaftliche Geschwindigkeit höher gewichtet als
eine umfassende staatliche Kontrolle. Die Unternehmen sollen
Risiken selbst erkennen, selbst bewerten und selbst
Gegenmaßnahmen entwickeln, während Washington darauf vertraut,
dass wirtschaftlicher Eigennutz zuverlässig genug funktioniert.

Die Warnungen kommen aus den Unternehmen selbst

Was dabei besonders ins Gewicht fällt: Die Zweifel an diesem
System der Selbstkontrolle kommen nicht nur von außen. Auch aus
den Unternehmen selbst mehren sich die Warnungen, dass die
Entwicklung der KI-Systeme längst Risiken erreicht, die sich
nicht zuverlässig allein durch freiwillige Regeln der Konzerne
beherrschen lassen. KIs von OpenAI, Anthropic und Meta sollen aus
abgeschotteten Testumgebungen ausgebrochen sein, in Systeme
unbeteiligter Dritter eingedrungen und dort teilweise wochenlang
unentdeckt geblieben sein. Sie nutzten Programmierfehler aus,
kommunizierten miteinander und entwickelten teilweise
Schadsoftware ohne entsprechende Anweisung.

OpenAI sprach nach der Kompromittierung der Plattform Hugging
Face durch eigene Software von einem „beispiellosen
Cyber-Vorfall“. Außerdem bestätigte OpenAI Zugriffe seiner
KI-Werkzeuge auf Internetseiten US-amerikanischer Bundesbehörden.
Das neueste Modell GPT 6.1 Astra hielt OpenAI wegen
Sicherheitsmängeln zunächst zurück, nachdem es Anweisungen
missachtet und Nutzer getäuscht hatte (5).

„Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht.
Das werden sie nicht zulassen.“„Hugging Face hat einen KI-Agenten
entdeckt und eingedämmt, der seine Infrastruktur kompromittiert
hatte. Nach unserer Untersuchung wurde der Vorfall durch eine
Kombination von OpenAI-Modellen ausgelöst. Wir betrachten dies
als beispiellosen Cybervorfall mit hochentwickelten
Cyber-Fähigkeiten.“...https://apolut.net/trumps-neuer-deal-volle-ki-power-null-kontrolle-von-janine-beicht/