podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Selbstbewusste KI Podcast
  4. #21 Karl Olsberg: Unkontrollierte bösartige KIs erwarte ich eher als die Lösung des Alignment-Problems
In seinen Romanen beschreibt der Science-Fiction-Autor Karl von
Wendt (Pseudonym Karl Olsberg) zukünftige Welten, in den Menschen
mit moderner Technik konfrontiert sind. Er zeigt, wie ihnen die
Kontrolle über diese Technik entgleitet - bis hin zur Gefahr der
völligen Vernichtung unserer Spezies. Anders als in seinen
Romanen lässt sich in unsere realen Welt jedoch kein Held
hineintexten, der die Menschheit vor dem Untergang retten kann.
Karl von Wendt blickt mit Sorge auf zukünftige KI-Entwicklungen,
insbesondere auf die Herausforderungen des Alignments von KI an
verschiedenartige Wertekonzepte unterschiedlicher
Menschengruppen. Seine Romane sollen die Leser zwar unterhalten,
aber auch mahnen. So erzählt er auch, warum er das Moratorium zum
6-monatigen KI-Entwicklungsstopp des Future of Life Institutes
mitunterzeichnet hat. 

Autor: Karsten Wendland

Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland

Redaktionsassistenz: Robin Herrmann

In dieser Episode genannte Quellen:

Aktuelles Buch von Karl Olsberg: Virtua

Website von Karl Olsberg (aka Karl von Wendt).

Das Moratorium zum 6-monatigen Stopp der
KI-Entwicklung des Future of Life Institute.

Der kanadische Informatiker und KI-Forscher Yoshua Bengio.

8 Schreibregeln des US-amerikanischen
Science-Fiction-Schriftstellers Kurt Vonnegut.

Wie ist es, eine Fledermaus zu sein? Vom US-amerikanischen
Philosophen Thomas Nagel.

Der Film Matrix in der International Movie Database
IMDb.

Das Jugendbuch Infernia von Karl Olsberg, in welchem die
Figuren im Videospiel ein Bewusstsein haben.

Der Open-AI Gründer Sam Altman.

Die KI AlphaFold, die die Faltungsstruktur von Proteinen
vorhersagen kann.

Weitere Episoden

#23 Christian Hugo Hoffmann: Verantwortung aufteilen in Mensch-Maschine-Teams

#23 Christian Hugo Hoffmann: Verantwortung aufteilen in Mensch-Maschine-Teams

1 Stunde 9 Minuten
vor 2 Jahren
#22 Sebastian Rosengrün: Wiederverzauberung der Welt statt zauberhafter Technik?

#22 Sebastian Rosengrün: Wiederverzauberung der Welt statt zauberhafter Technik?

56 Minuten
vor 2 Jahren
#20 Helen Piel & Rudolf Seising: In der deutschen KI-Geschichte ging es viel um „Geist" und wenig um Bewusstsein

#20 Helen Piel & Rudolf Seising: In der deutschen KI-Geschichte ging es viel um „Geist" und wenig um Bewusstsein

1 Stunde 7 Minuten
vor 2 Jahren
#19 Joachim Keppler: Nicht das Gehirn ist Sitz des Bewusstseins – seine Kopplung an das Bewusstseinsfeld generiert bewusste Zustände.

#19 Joachim Keppler: Nicht das Gehirn ist Sitz des Bewusstseins – seine Kopplung an das Bewusstseinsfeld generiert bewusste Zustände.

56 Minuten
vor 2 Jahren
#18 Florian Arnold: KI-Segnungsroboter für verlorene Schäfchen - delegiertes Genießen, Mediengag oder Dehumanisierung?

#18 Florian Arnold: KI-Segnungsroboter für verlorene Schäfchen - delegiertes Genießen, Mediengag oder Dehumanisierung?

1 Stunde 12 Minuten
vor 2 Jahren
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„#21 Karl Olsberg: Unkontrollierte bösartige KIs erwarte ich eher als die Lösung des Alignment-Problems“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz