Selbstbewusste KI Archiv

Für den Robotiker Prof. Dr. Antonio Chella, Leiter des Robotic Labs und des Forschungszentrums für Wissenstechnologien an der Universität von Palermo, geht Bewusstsein deutlich über das Gehirn hinaus. Für den Herausgeber des Journal of Artificial Intelligence and Consciousness kann nur eine empathische Maschine auch eine ethische Maschine sein. Deshalb sei es erstrebenswert, Maschinen mit Gefühlen zu bauen, und aus deren Verhalten schließlich auch mehr über unser eigenes phänomenales Bewusstsein erfahren zu können. Viele KI-Leute haben seiner Beobachtung nach kein Interesse an philosophischen Debatten, weswegen er versucht, praktische Brücken zwischen den Disziplinen zu bauen und interdisziplinäre Diskurse zu unterstützen.

Fragensteller in dieser Folge:

Prof. Dr. Armin Grunwald, Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)

Autor: Karsten Wendland

Redaktion und Produktion: Annalena Hörth

Aufnahmeleitung: Tobias Windmüller

Synchronsprecher: Konstantin Kleefoot

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000125589

In dieser Folge erwähnte Quellen:

Antonio Chella: Journal of Artificial Intelligence and Consciousness.

Zitat von Woody Allen: “You rely too much on brain. The brain is the most overrated organ.“

Der US-amerikanische Science-Fiction-Film „Nummer 5 lebt“ (Englischer Originaltitel: „Short Circuit“), 1986.

Artikel bei Zeit.de über den rassistischen Chat-Bot Tay (vom 24.03.2020).

Das Science-Fiction-Drama Ex Machina von Alex Garland, 2015.

Der Science-Fiction-Film 2001: Odyssee im Weltraum (Originaltitel: 2001: A Space Odyssey) von Stanley Kubrick, 1968.

Der Schwarzweißfilm Frankenstein von Mary Shelley, 1931.

Der Stummfilm Der Golem von Paul Wegener und Heinrich Galeen, 1914.

Antonio Chella auf der Homepage der University of Palermo: https://www.icar.cnr.it/en/associati-di-ricerca/esterno-1/

Für den Neuwissenschaftler Prof. Dr. Christoph Koch, Chefwissenschaftler am Allen Institute für Gehirnforschung in Seattle, gibt es eine sehr enge Verbindung zwischen Gehirn und Bewusstsein. Er hält es nicht für möglich, die Strukturen des menschlichen Gehirns digital zu simulieren, wohl aber, dass man es irgendwann aus technischen Materialien wird nachbauen können. Bewusstsein sind für ihn jegliche Erfahrungen, Gefühle und Empfindungen, die letztlich immer mit dem Gehirn zu tun haben. So lieben wir auch nicht mit dem Herzen, sondern in Wirklichkeit mit dem Kopf.

Fragensteller in dieser Folge:

Prof. Dr.-Ing. Ralf Otte, Technische Hochschule Ulm

Autor: Karsten Wendland

Redaktion, Aufnahmeleitung und Produktion: Tobias Windmüller

Synchronsprecher: Konstantin Kleefoot

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000125298

In dieser Folge erwähnte Quellen:

Christof Koch: The feeling of life itself. Why consciousness is widespread but can’t be computed, MIT Press 2020.

Aristoteles: Über die Seele. De Anima, Felix Meiner Verlag Hamburg 2017.

Artikel über Floatation tanks bei Faz.net (vom 17.04.2017).

Informationen über die Integrated Information Theory.

Begriffserklärungen zu „CPU“ und „ALU“ bei ITWissen.info.

Homepage von Christof Koch: https://christofkoch.com/

Christof Koch auf der Homepgae des Allen Institute for Brain Science Seattle: https://alleninstitute.org/what-we-do/brain-science/about/team/staff-profiles/christof-koch/

Für die Juristin Prof. Dr. Dr. Frauke Rostalski, Universität Köln und Mitglied des Deutschen Ethikrats, kann man KI-Robotern weder Schuld noch Verantwortung zuschreiben – zumindest nicht nach den heutigen Maßstäben und technischen Realisierungen. KI-Systeme können nur Teile unseres Denkens abbilden, und umgekehrt funktioniert der Mensch nicht nach Algorithmen. Allerdings wissen wir nicht, was noch kommt, und sollten verschiedene Zukünfte rechtzeitig vorausdenken. Zukünftige Gesellschaften etwa mit e-Personen sind schon heute debattierte Szenarien.

Fragensteller in dieser Folge:

Dr. Gerard Blommestijn, Physiker und Philosoph

Autor: Karsten Wendland

Redaktion: Kayla Zoller

Aufnahmeleitung vor Ort im schönen Köln: Karsten Wendland

Produktion: Kayla Zoller

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124841

In dieser Folge erwähnte Quellen:

Frauke Rostalski ist Mitglied im Deutschen Ethikrat.

Artikel auf Welt.de: Ingenieur „heiratet“ seine selbstgebaute Robo-Freundin (vom 07.04.2017).

Zitat des britischen Evolutionsbiologen Clinton Richard Dawkins:

“We are survival machines – robot vehicles blindly programmed to preserve the selfish molecules known as genes. This is a truth which still fills me with astonishment.” (Aus seinem Buch „The Selfish Gene“, Oxford University Press: 1976).

Artikel über das Libet-Experiment bei Planet Wissen.

Der hippokratische Eid.

Das Szenario des schwarzen Schwans nach dem Publizisten und Börsenhändler Nassim Nicholas Taleb. (Artikel bei Risknet.de vom 20.07.2020).

Prof. Dr. Dr. Frauke Rostalski auf der Homepage der Universität zu Köln:

https://rostalski.jura.uni-koeln.de/prof-dr-dr-frauke-rostalski

Für den Philosophen Prof. Dr. Thomas Metzinger von der Universität Mainz ist es keineswegs ausgeschlossen, dass Künstliche Intelligenz irgendwann Bewusstsein haben könnte. Schon jetzt sollten wir uns Gedanken über unsere Verantwortung und zur Ethik machen, etwa in Form einer globalen Charta mit KI-Regeln, die auch das Bewusstseinsthema umfassen. KI-Systeme lernen viel über uns Menschen lernen, müssen aber nicht immer an das Gemeinwohl gekoppelt sein. Es hängt von uns ab, unsere Digitale Souveränität wiederzuerlangen.

Fragensteller in dieser Folge: Dipl.-Phys. Michael Mörike, Integrata-Stiftung für humane Nutzung der Informationstechnologie

Autor: Karsten Wendland Redaktion, Aufnahmeleitung und Produktion: Robert Sinitsyn

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124512

In dieser Folge erwähnte Quellen:

René Descartes: Die Leidenschaft der Seele (Les passions de l’âme), L. Heimann 1870.

The Minimal Phenomenal Experience (MPE) Project unter Leitung von Thomas Metzinger.

Artikel von Thomas Metzinger bei Spektrum.de zu maschinellem Bewusstsein mit Bezug auf den amerikanischen Philosophen Hilary Putnam und seine Einstellungen zu Rechten von Robotern.

Europäische High-Level Expert Group on Artificial Intelligence.

Thomas Metzinger: Der Ego-Tunnel: eine neue Philosophie des Selbst. Von der Hirnforschung zur Bewusstseinsethik, Piper Verlag 2014.

Digitalisierung und der Green Deal der EU-Kommission.

Univ.-Prof. Dr. Thomas Metzinger auf der Homepage der Johannes Gutenberg-Universität Mainz: https://www.philosophie.fb05.uni-mainz.de/arbeitsbereiche/theoretische/thmetzinger/

Für den Technikhistoriker Christian Vater, der in Heidelberg und Karlsruhe forscht, hat Forschung zu KI archäologische Qualitäten. Er gräbt Fundstücken aus, die unser heutiges Verständnis von KI prägen, auch wenn sie zu ihrer Zeit anders gemeint waren. Er erklärt, aus welchem Blickwinkel heraus man das menschliche Bewusstsein als eine „Turing-Zwiebel“ mit leerem Kern auffassen konnte, und welche Rolle Forscherinnen in den frühen KI-Zeiten hatten. 

Fragensteller in dieser Folge:

Jennifer Heier, Head of UX-driven AI, SIEMENS

Autor: Karsten Wendland

Redaktion und Aufnahmeleitung im Außeneinsatz: Konstantin Kleefoot

Produktion: Tobias Windmüller

Licence: CC-BY, http://doi.org/10.5445/IR/1000124235

Im Podcast erwähnte Quellen:

Eintrag über Zombies in der Stanford Encyclopedia of Philosophy.

Hubert L. Dreyfus: What Computers Still Can’t Do. A Critique of Artificial Reason, MIT Press 1992.

Nick Bostrom: Are you living in a computer simulation?, Philosophical Quaterly 2003.

Artikel von Alan M. Turing in „Mind“: „Computing Machinery and Intelligence“.

Alan M. Turing: On countable numbers.

Die dramatisierte Filmbiografie über Alan M. Turing: The Imitation Game.

Artikel über den Mathematiker und Kryptologie Irving John „Jack“ Good und seiner Idee der Superintelligenz bei Spektrum.de.

Sein Aufsatz Speculations Concerning the First Ultraintelligent Machine von 1966.

 Isaac Asimov: Alle Robotergeschichten, Bastei Lübbe 2007.

Jennifer S. Light: When Computers Were Women, Technology and Culture 1999.

Artikel über den „Astro Boy“ bei SRF.

Gilles Deleuze, Félix Guattari: Rhizom, Merve Verlag 1977.

Christian Vater auf der Homepage des Karlsruher Instituts für Technologie:

https://www.geschichte.kit.edu/mitarbeiter_1906.php

Prof. Dr.-Ing Ralf Otte, Technische Hochschule Ulm, forscht und entwickelt seit Jahrzehnten zu KI und Algorithmen rund um das Gehirn. Für den Experten für neuromorphe Systeme ist der Geist nicht algorithmisch beschreibbar. Auch wenn KI mitunter unterstellt wird, dass sie „denken“ könne, sind heutige KI-Systeme hochgradig trivial – und enthalten noch lange keinen Geist. 

Sein Buch „Künstliche Intelligenz für Dummies“ ist kürzlich im Wiley-VCH -Verlag erschienen. 

Fragensteller in dieser Folge:

Prof. Dr. phil. Hyeongjoo Kim, Chung-Ang University Seoul

Autor: Karsten Wendland

Redaktion: Tobias Windmüller

Aufnahmeleitung im Außeneinsatz: Karsten Wendland

Produktion: Robert Sinitsyn

Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124010

In dieser Folge erwähnte Quellen:

Ralf Otte: Vorschlag einer Systemtheorie des Geistes. Nicht-energetische Wellenfunktionen und Vorschlag zur Lösung des Geist-Körper-Problems, Cuvillier Verlag Göttingen 2016

Der österreichische Mathematiker, Philosoph und Logiker Kurt Gödel legte die Grundsteine der Prädikatenlogik. Zusammenfassender Artikel auf Spektrum.de (vom 01.09.1999)

Der US-amerikanische Science-Fiction-Film „Nummer 5 lebt“ (Englischer Originaltitel: „Short Circuit“) von 1986 handelt von einem Kampfroboter, der durch einen Blitzeinschlag plötzlich selbstständig wird.

Der deutsche Physiker Thomas Görnitz forscht unter anderem an der Quantentheorie und ihrer philosophischen Interpretation.

Der englische Mathematiker und theoretische Physiker Roger Penrose forscht an mathematisch-physikalischen Problemen des Bewusstseins und der KI

Google baut Quantencomputer: ein zusammenfassender Artikel von Zeit Online (vom 28.09.2019) und vom Stern (vom 23.10.2019)

Forschung zu neuromorpher Hardware am Fraunhofer-Institut für Integrierte Schaltungen (IIS)

Artikel des britischen Logikers, Mathematikers, Kryptoanalytikers und Informatikers Alan M. Turing in der britischen philosophischen Fachzeitschrift „Mind“: Computing Machinery and Intelligence

Ralf Otte: Künstliche Intelligenz für Dummies, John Wiley & Sons 2019

Gutachten der Datenethikkommission der Bundesregierung (Kurzfassung) von 2019, herausgegeben vom Bundesministerium des Innern, für Bau und Heimat und des Bundesministeriums der Justiz und für Verbraucherschutz. Seite 19: im Podcast angesprochene Pyramide, welche die Gefahrenpotentiale algorithmischer Systeme einordnet.

Ralf Otte an der Technischen Hochschule Ulm

Dr. Andreas Bischof, Universität Chemnitz, denkt Technik- und Sozialwissenschaften gemeinsam. Er erklärt, wie das feine Zusammenspiel zwischen Mensch und Technik abläuft und wie wechselseitiges "Verstehen" möglich werden kann. Sein aktuelles Buch "Soziale Maschinen bauen" ist im transcript Verlag erschienen.

Fragensteller in dieser Folge: Prof. Dr. Munish Sharma, MIT Maharastra Institute of Technology, Aurangabad

Autor: Karsten Wendland

Redaktion: Tobias Windmüller

Synchronsprecher: Konstantin Kleefoot

Aufnahmeleitung und Produktion: Johanna Müller

Feedback-Kanal: www.ki-bewusstsein.de/podcast

Twitter: twitter.com/KIBewusstsein

Licence: CC-BY. DOI: https://doi.org/10.5445/IR/1000123896

Zitat aus der Begrüßung zum Nachlesen:  

„Wenn aus der Rekonstruktion der Entwicklungspraxis interaktiver Technik eine Methode für ebenjene Praxis werden soll, muss sie sich mit den Kompliziertheiten und Komplexitäten des Entwickelns von Technik für soziale Alltagswelten einlassen und kompromittieren.“  (Andreas Bischof)

Im Podcast genannte Quellen: 

Andreas Bischof: Soziale Maschinen bauen. Epistemische Praktiken der Sozialrobotik, transcript Verlag 2017. https://www.transcript-verlag.de/978-3-8376-3881-3/soziale-maschinen-bauen/

„ReThiCare“: Interdisziplinäres Forschungsprojekt zu den Herausforderungen und Chancen technischer Assistenzsysteme im Pflegekontext. http://www.rethicare.info/

Sherry Turkle: Verloren unter 100 Freunden. Englische Originalfassung: Sherry Turkle: Alone Together. Why We Expect More from Technology and Less From Each Other, Basic Books 2011. https://www.basicbooks.com/titles/sherry-turkle/alone-together/9780465093663/

Homepage von Andreas Bischof: https://andreasbischof.net/

Bewusstsein im Computer ist eine Simulation, sagt Prof. Dr. Dr. Thomas Fuchs, Inhaber der Karl-Jaspers-Professur für Philosophische Grundlagen der Psychiatrie und Psychotherapie an der Universität Heidelberg, in der ersten Folge unseres Podcasts Selbstbewusste KI. Sein aktuelles Buch “Verteidigung des Menschen“ ist kürzlich bei suhrkamp erschienen. 

Fragensteller in dieser Folge: Murad Futehally, Mumbai/Ettlingen

Autor: Karsten Wendland

Redaktion: Tobias Windmüller

Aufnahmeleitung und Produktion: Konstantin Kleefoot

Feedback-Kanal: www.ki-bewusstsein.de/podcast

Twitter: twitter.com/KIBewusstsein

License: CC-BY, DOI: http://doi.org/10.5445/IR/1000123619