AI Alignment: Könnte eine KI uns alle umbringen?

Manche halten es für das größte Risiko der Menschheit: Eine
künstliche Super-Intelligenz, die außer Kontrolle gerät und die
Menschheit ausrottet. Aber ist wirklich etwas dran an diesem
düsteren Szenario? Über die Hosts: Gregor Schmalzried ist freier
Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen
Rundfunk und Brand Eins. Marie Kilg ist freie Journalistin und
Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie
Produkt-Managerin bei Amazon Alexa. In dieser Folge: 0:00 Intro
2:30 Die Angst vor dem Paperplic Maximizer 9:10 Was ist
"Alignment”? 15:30 Woher kommt die Angst vor der Super-KI? 21:40
Echte Gefahr oder Spinnerei? 28:00 Was haben wir mit KI gemacht?
Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris
Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl,
Christian Schiffer, Gregor Schmalzried Links und Quellen: Asimov
und die Robotergesetze
https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html
Stephen Hawking über die Gefahr durch eine Super-KI (2014)
https://www.bbc.com/news/technology-30290540 "Effective Altruism”
und die Angst vor der Super-KI
https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/
Alte Geschichten und Ängste:
https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912 Der
KI-Podcast bei der TINCON Berlin 2024
https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast
Open AI veröffentlicht neues Modell GPT-4o
https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users
27 — Der Podcast zur Europawahl https://1.ard.de/27-podcast?cp=ki
Kontakt: Wir freuen uns über Fragen und Kommentare an
podcast@br.de. Unterstützt uns: Wenn euch dieser Podcast gefällt,
freuen wir uns über eine Bewertung auf eurer liebsten
Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek
oder wo immer ihr eure Podcasts hört, um keine Episode zu
verpassen. Und empfehlt uns gerne weiter!