Weiß die KI, dass sie nichts weiß? – scobel im Gespräch: Mit Katharina Zweig

Wie „intelligent“ sind Chatbots wirklich und wo fangen ihre
Gefahren an? Sozioinformatikerin Prof. Katharina Zweig spricht über
die Grenzen von KI, die Illusion des „Reasoning“ und darüber, warum
wir Algorithmen niemals echte Urteilskraft zuschreiben sollten.
Zweig erklärt, warum sogenannte Reasoning-Tests in der Informatik
nur sehr enge mathematische Aufgaben abprüfen und wie daraus im
Marketing der Mythos entstand, KI könne „denken“. Sie zeigt, was
Large Language Models wirklich tun: Wahrscheinlichkeiten für das
nächste Wort berechnen, ohne Verständnis für Kontext, Publikum oder
Folgen. Im Gespräch geht es um: Sozioinformatik: Warum Software
immer als sozio-technisches System aus Menschen, Regeln, Gesetzen
und Technik gedacht werden muss. Reasoning vs. Denken: Wieso LLMs
in Benchmarks glänzen – aber an einfachen Alltagsaufgaben, gesundem
Menschenverstand und der „reversal curse“ scheitern. Ethische
Grenzen von KI: Weshalb maschinelles Lernen zwar Muster findet,
aber keine moralischen Urteile fällen kann – und warum „ethische
KI“ ohne menschliche Verantwortung eine Illusion bleibt. Einsamkeit
und „empathische“ Chatbots: Was passiert, wenn Menschen ihre
intimsten Probleme mit einer Maschine besprechen – von
Beziehungsfragen bis hin zu Suizidgedanken. Demokratie,
Öffentlichkeit und Gemeinschaft: Warum wir lokale Gemeinschaften,
gute Schulen und faire Chancen für Kinder brauchen, statt uns von
KI-Systemen immer weiter vereinzeln zu lassen. KI-Agenten taugen
nicht als autonome Entscheider – vor allem dort nicht, wo es um
Sicherheit, Gesundheit, Recht und Moral geht. Gleichzeitig plädiert
Katharina Zweig für europäische KI-Systeme, klare Regeln, digitale
Signaturen für echte Menschen im Netz und massive Investitionen in
Bildung, Kinder und Jugendliche. Neue Ausgaben immer donnerstags,
19 Uhr. Uns gibt es (bald) auf amazon music, Apple Music, Bluesky,
Deezer, Facebook, Mastodon, Podimo, RTL+, Spotify, Substack,
Threads, X und YouTube. Schaut euch doch einfach mal hier um:
https://linktr.ee/scobel Moderation, Recherche & Skript: Gert
Scobel Gast: Katharina "Nina" Zweig Eine Produktion der probono
Fernsehproduktion GmbH: Anja Görner, Friedrich Küppersbusch, Jürgen
Ohls, Kim Plettemeier, Maxie Römhild und René Fischell Mit
Unterstützung von: Alexander Hollmer, Arne Clasvogt, Claus Ast und
Pascal Hadré Finanziert wird dieser Kanal von drei gemeinnützigen
Organisationen: Der Udo Keller Stiftung Forum Humanum (
https://www.forum-humanum.org/start.html) und der Okeanos -
Stiftung für das Meer ( https://okeanos-stiftung.org/) sowie vom
AVE Institut für Achtsamkeit, Verbundenheit, Engagement (
https://ave-institut.de/). Fragen und Anregungen gerne jederzeit
per Mail an scobel@probono.tv. Und Tschüss. #scobel