podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Der Weg nach KAI Podcast
  4. Ilya Sutskever, SSI, OpenAI, Google und NVIDIA: Die KI-Wette auf eine sichere Superintelligenz (Teil 1)
Der Weg nach KAI – Episode 53: Ilya Sutskever, SSI, OpenAI,
Google und NVIDIA: Die KI-Wette auf eine sichere Superintelligenz
(Teil 1)

Diesmal untersuchen wir die Entwicklung hin zu sicherer
Superintelligenz (ASI), ein Ziel, das über die aktuelle Jagd nach
Künstlicher Allgemeiner Intelligenz hinausgeht und besonders
durch das neue Unternehmen 'Safe Superintelligence Inc.' (SSI)
verkörpert wird.

Im Zentrum steht Ilya Sutskever, Mitbegründer von OpenAI und
Pionier des Deep Learning (AlexNet). Nach internen Konflikten bei
OpenAI über die Priorisierung von Sicherheit gründete er SSI.
Unterstützt von Investoren wie Google (Alphabet) und NVIDIA,
verfolgt SSI das erklärte Ziel, ausschließlich sichere
Superintelligenz zu entwickeln. Das Unternehmen betont seine
Unabhängigkeit von kurzfristigem kommerziellem Druck und
Produktzyklen, ein Ansatz, der als "Straight-Shot"-Strategie
bezeichnet wird. 

ASI beschreibt eine hypothetische KI, die menschliche Intelligenz
in praktisch allen kognitiven Aufgaben übertrifft. Die zentrale
technische Herausforderung ist das Alignment-Problem: Wie stellt
man sicher, dass eine ASI zuverlässig menschliche Werte und
Absichten verfolgt, um katastrophale Fehlinterpretationen oder
gar "deceptive alignment" (trügerische Anpassung) zu
vermeiden?

 

Weitere Episoden

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

23 Minuten
vor 5 Monaten
Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

33 Minuten
vor 6 Monaten
Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

36 Minuten
vor 7 Monaten
Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

25 Minuten
vor 7 Monaten
Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

29 Minuten
vor 7 Monaten
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„Ilya Sutskever, SSI, OpenAI, Google und NVIDIA: Die KI-Wette auf eine sichere Superintelligenz (Teil 1)“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz