Startseite
Podcasts
Matthias Zehnders Wochenkommentar Podcast
#Verantwortungslücke 6: Was jetzt, Geoffrey Hinton?

#Verantwortungslücke 6: Was jetzt, Geoffrey Hinton?

Matthias Zehnders Wochenkommentar vor 1 Monat

0:00

21:43

Dario Amodei möchte auf die Bremse treten. Oder zumindest vom Gas
gehen: Der CEO der amerikanischen KI-Firma Anthropic hat diese
Woche eine koordinierte Verlangsamung und ein temporäres
Moratorium für das Training von KI-Modellen der nächsten
Generation gefordert. Er erhielt dabei öffentlich Unterstützung
von führenden Köpfen anderer Spitzenlabore, darunter OpenAI-Chef
Sam Altman und Elon Musk. Das ist erstaunlich, weil sich die drei
nicht wirklich mögen. Anlass für den Griff zum Bremspedal ist
eine ganze Reihe von Sicherheitsproblemen, die in den letzten
Tagen ans Licht gekommen sind. Dario Amodei warnte deshalb vor
Systemen, die in der Lage sind, eigenständig Nachfolgemodelle zu
entwerfen und zu optimieren. Das könne dazu führen, dass der
Mensch die Kontrolle verliere. Verschiedene KI-Systeme haben in
den letzten Wochen derart ausgefeilte Angriffe ausgeführt, dass
die KI-Experten fürchten, die Systeme könnten innerhalb eines
Jahres schon selbstständig komplexe Angriffe auf wichtige
Infrastrukturen ausführen. Also tastet Dario Amodei nach dem
Stopp-Knopf. Doch die Stopp-Taste zu drücken ist gar nicht so
einfach. Der erste, der sich lautstark dagegen wehrte, in Sachen
KI den Fuss vom Gas zu nehmen, war Präsident Donald Trump. Aber
auch die KI könnte den Bremsern einen Strich durch die Rechnung
machen. Nobelpreisträger Geoffrey Hinton sagt, die KI sei längst
so intelligent, dass sie die Menschen überreden werde, nicht auf
die Bremse zu treten. Was jetzt, Geoffrey Hinton?

Matthias Zehnder ist Autor und Medienwissenschaftler in Basel. Er
ist bekannt für inspirierende Texte, Vorträge und Seminare über
Medien, die Digitalisierung und KI.

Website: https://www.matthiaszehnder.ch/

Newsletter abonnieren: https://www.matthiaszehnder.ch/abo/

Unterstützen: https://www.matthiaszehnder.ch/unterstuetzen/

Biografie und Publikationen:
https://www.matthiaszehnder.ch/about/