Folge 13: Vertrauenswürdige KI: Macht KI uns dümmer – oder nur anders schlau?

KI kann Texte schreiben, Bilder erzeugen, Code entwickeln,
Sicherheitslücken finden und bei komplexen Entscheidungen
unterstützen. Aber wie viel Vertrauen verdient sie eigentlich?


In dieser Folge von Maschinen.Sprache, dem
Technologie-Podcast von Materna, spricht Host Stefan Reinke mit
Prof. Dr. Ute Schmid, Inhaberin des Lehrstuhls
für Kognitive Systeme an der Universität Bamberg. Sie forscht
seit vielen Jahren zu Künstlicher Intelligenz, erklärbarer KI,
neuronalen Netzen und Mensch-KI-Partnerschaften.


Im Gespräch geht es darum, was „vertrauenswürdige KI“ wirklich
bedeutet, warum erklärbare KI nicht einfach „KI erklären“ heißt
und weshalb wir lernen müssen, KI weder naiv zu vertrauen noch
reflexhaft abzulehnen. Prof. Schmid erläutert, warum KI-Systeme
Fehler machen, weshalb diese Fehler oft anders aussehen als
menschliche Fehler und warum genau deshalb KI-Kompetenz immer
wichtiger wird.


Außerdem sprechen wir über KI in Bildung, intelligente
Tutorsysteme, den Unterschied zwischen Chatbots von der Stange
und wirklich lernförderlichen Systemen, europäische Regulierung,
Datenqualität, Start-up-Kultur und die Frage, ob KI unsere
Gesellschaft dümmer macht – oder nur anders schlau.





Themen der Folge:


Was bedeutet vertrauenswürdige KI?

Warum erklärbare KI wichtig ist

Wie KI-Modelle zu Entscheidungen kommen

Warum Vertrauen in KI „kalibriert“ sein muss

KI in Schule, Hochschule und Weiterbildung

Intelligente Tutorsysteme statt bloßer Chatbots

Regulierung, Ethik und europäische KI-Strategie

Warum KI Menschen nicht ersetzen, sondern sinnvoll ergänzen
sollte

Wo KI großes Potenzial hat – etwa in Medizin, Chemie und
Materialforschung

Welche gesellschaftlichen Risiken entstehen, wenn digitale
Schnittstellen menschliche Kontakte verdrängen