podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Der Weg nach KAI Podcast
  4. "What did Ilya see?", Ray Kurzweil und die Künstliche Superintelligenz (Teil 1)
Der Weg nach KAI – Episode 19: "What did Ilya see?", Ray Kurzweil
und die Künstliche Superintelligenz (Teil 1)

In dieser Folge geht es um die Gründung des neuen Unternehmens
"Safe Superintelligence Inc." (SSI) durch den renommierten
KI-Forscher Ilya Sutskever. 

Sutskever war bis vor kurzem Chief Scientist bei OpenAI und
maßgeblich an der Entwicklung von Technologien beteiligt, die
hinter Systemen wie ChatGPT stehen. Im November 2023 war
Sutskever an der kurzfristigen Entlassung von OpenAI-CEO Sam
Altman beteiligt. Das daraufhin entstandene Meme "What did Ilya
see?" ist bis heute Ausdruck der Spekulationen, dass er
möglicherweise etwas Beunruhigendes bei OpenAI gesehen haben
könnte. Nur einen Monat nach seinem Ausscheiden im Mai 2024
konzentriert er sich nun auf die Entwicklung einer sicheren
Superintelligenz.

Im weiteren Verlauf vergleichen wir die Konzepte der Künstlichen
Allgemeinen Intelligenz (KAI) und der Künstlichen
Superintelligenz (ASI). Eine ASI würde menschliche Fähigkeiten
weit übertreffen, was ethische und sicherheitsrelevante Bedenken
aufwirft und besonders das Kontrollproblem ("Alignment")
adressiert.

Die Begriffe KAI/AGI und ASI haben eine lange Geschichte, geprägt
durch Persönlichkeiten wie Alan Turing, John McCarthy, Irving
John Good und Nick Bostrom. Wir vertiefen die
Entstehungsgeschichte und bereiten den Weg für die erstaunlichen
Erfindungen eines Ray Kurzweil, dessen technologischen
Vorhersagen bis heute eine omnipräsente Position in der Welt der
KI spielen.

Weitere Episoden

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

Claude Mythos, Project Glasswing und die Zero-Day-Gefahr: Die dritte Achse der "Scaling-Laws"

23 Minuten
vor 5 Monaten
Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

Rekursive Selbstverbesserung und hochintelligente Kartoffeln: Die KI-Modelle der nächsten Generation

33 Minuten
vor 6 Monaten
Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

Opus 4.6 und die 'Situational Awareness': Wenn KI ihre Macht demonstriert

36 Minuten
vor 7 Monaten
Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 2)

25 Minuten
vor 7 Monaten
Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

Das Memento-Prinzip moderner KI-Agenten: SKILLS und subliminale Botschaften (Teil 1)

29 Minuten
vor 7 Monaten
Alle Episoden anzeigen
In Podcasts werben
Schalte jetzt Werbung in Podcasts.
Episode melden

„"What did Ilya see?", Ray Kurzweil und die Künstliche Superintelligenz (Teil 1)“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz