Startseite
Podcasts
Doktopus - Der Wissenspodcast mit Dora und Dominic Podcast
Macht der Maschinen: Was, wenn KI die Welt regiert?

Macht der Maschinen: Was, wenn KI die Welt regiert?

Doktopus - Der Wissenspodcast mit Dora und Dominic vor 2 Jahren

0:00

48:52

Mit diesem Beitrag nehmen wir am Wettbewerb Fast Forward Science
2025 teil! Mehr Infos gibt es unter www.fastforwardscience.de
#FFS #audioaward #bestesdebutaudio

KI außer Kontrolle! Wie können wir eine Künstliche Intelligenz
überwachen und regulieren, die schneller, schlauer und mächtiger
ist als wir? Und was passiert, wenn sie unsere ethischen Grenzen
ignoriert?

Diesmal geht es bei Doktopus um die möglichen gesellschaftlichen
Auswirkungen einer künstlichen Superintelligenz. Wie könnte so
etwas kontrolliert werden? Von der Idee des "versklavten Gottes"
bis hin zu einem Überwachungsstaat, der jegliche KI-Forschung
verbietet, diskutieren wir verschiedene Szenarien. Sie reichen
von einem friedlichen, produktiven Zusammenleben von Mensch und
Maschine, über die KI-Diktatur bis hin zur Selbstzerstörung der
Menschheit. Alles nur Gedankenspiele? Oder ist die Super-KI
bereits näher, als wir denken?

Material zu dieser Folge

Aufforderung von OpenAI zur Governance von superintelligenter KI
(Mai 2023):
https://openai.com/index/governance-of-superintelligence/

Große Empfehlung für das Buch “Leben 3.0” von Max Tegmark. In der
Folge beziehen wir uns auf die Einleitung mit der Geschichte der
superintelligenten KI “Prometheus” und wir gehen auch die
verschiedenen Szenarien zum Zusammenleben mit superintelligenter
KI durch:
https://www.ecolibri.de/shop/article/36891647/max_tegmark_leben_3_0.htmlx

Zwischenergebnisse der Umfrage des Future of Life Institutes zur
Zukuft mit superintelligenter KI:
https://futureoflife.org/ai/superintelligence-survey/

Hier könnt ihr auch selbst noch abstimmen!

Mehr über die Risiken von superintelligenter KI:

https://arxiv.org/abs/2306.12001

https://futureoflife.org/resource/catastrophic-ai-scenarios/

Mehr über das Feld “AI Policy” bzw. “AI Governance”, inklusive
möglicher Karriereoptionen in diesem Bereich:

https://www.openphilanthropy.org/research/12-tentative-ideas-for-us-ai-policy/

https://80000hours.org/career-reviews/ai-policy-and-strategy/

Social Media und Kontaktmöglichkeiten

Instagram: http://instagram.com/doktopuspodcast/

Youtube: https://www.youtube.com/@doktopuspodcast

E-Mail: doktopuspodcast@gmail.com

Credits

Recherche, Hosting & Produktion: Dora Dzvonyar &
Dominic Anders

Sound-Design & Post Production: Julian Dlugosch

Ansager: Marcel Gust

KI-Songs: Suno

KI-Visuals: Bing Image Creator

Intro-Musik: Oleggio Kyrylkoww from Pixabay

Intermezzo-Transition: MAXOU-YT from Pixabay