They Talk Tech – mit Eckert und Wolfangel

They Talk Tech Live vom University:Future Festival 2026 mit Katharina Scheiter, Professorin für Lehr-Lernforschung an der Universität Potsdam und eine der klügsten Stimmen in Deutschland, wenn es um evidenzbasierte Perspektiven auf digitales Lernen geht. Wir sprechen über die Frage, ob KI uns schlauer macht oder nur bequemer, und wie wir unsere Interaktion mit Chatbots & Co mehr in die Richtung schlauer statt bequemer drehen können. Wenn unser Gehirn Abkürzungen liebt und Chatbots immer mehr kognitive Arbeit übernehmen, verlernen wir dann, uns wirklich mit Inhalten auseinanderzusetzen? Wir diskutieren Studien, Fehlanreize im Bildungssystem und die Frage, wie KI sinnvoll als Lernwerkzeug eingesetzt werden kann, ohne den Lernprozess zu ersetzen. Denn Anstrengung ist kein Bug, sondern das Feature von Lernen. Wir sprechen auch darüber, wann metakognitive Faulheit zum echten Problem wird und was sich in Schule und Hochschule radikal ändern muss (Spoiler: ziemlich viel). University:Future Festival 2026: https://festival.hfd.digital/de/sessions-2026/?id=1191986 Interview von Eva mit Katharina Scheiter: https://t3n.de/news/hirnforscher-warnen-chatgpt-1712547 bzw. https://shop.t3n.de/collections/mit-technology-review/products/mit-technology-review-07-2025

Wir tippen unsere intimsten Dinge in Chatbots. Krankheiten, Kindererziehung, den Frust im Job. Und die Maschine antwortet so, dass es sich anfühlt wie der beste Kumpel. Kein Zufall, sagt Eva: KI-Firmen trimmen ihre Bots bewusst auf Nähe. Die Forscherin Marisa Tschopp nennt es „Relationship Exploit", einen Angriff auf unsere älteste Schwäche. Aber was, wenn dieser beste Freund nicht dir gehört, sondern deiner Firma? Svea bringt den Fall Meta mit, wo jeder Tastenanschlag aufgezeichnet wurde, fürs Training genau der KI, die eventuell mal Jobs ersetzen soll. Wir sprechen über Macht-Asymmetrie und darüber, warum „Ich hab doch nichts zu verbergen" zu kurz greift. Und zum Schluss die überraschende Gegenposition des Philosophen Markus Gabriel: Vielleicht macht uns dieser Spiegel sogar klüger über uns selbst. Shownotes-Links Markus Gabriel, „Ethische Intelligenz. Wie KI uns moralisch weiterbringen kann": https://www.perlentaucher.de/buch/markus-gabriel/ethische-intelligenz.html Katharina Zweig, „Weiß die KI, dass sie nichts weiß?" (2025): https://www.penguin.de/buecher/reihen/kuenstliche-intelligenz/5006263 Marisa Tschopp (Forschung Mensch-KI-Beziehung, scip AG): https://www.scip.ch/en/?team.mats Meta „Model Capability Initiative", EU-Kontext und Hintergrund (Tech Policy Press): https://www.techpolicy.press/metas-worker-surveillance-tests-eu-rules-on-ai-and-labor Meta stoppt KI-Tracking nach Mitarbeiterprotest (dt. Bericht): https://www.ad-hoc-news.de/wissenschaft/meta-stoppt-ki-training-1-600-mitarbeiter-protestieren-gegen-ueberwachung/69628297 OpenAI-Studie „How People Use ChatGPT" (wofür Menschen Chatbots nutzen): https://openai.com/index/how-people-are-using-chatgpt/

Svea und Eva starten bei geklauten Recherchen und Magazinen, die fremde Texte per KI umschreiben und als eigene ausgeben. Dann der Fall aus Göteborg: ein erfundenes Leiden, das sich durch die Sprachmodelle frisst wie ein Wurm. Und schließlich Julia Kloiber vom Superrr Lab. Sie macht sichtbar, wer die KI überhaupt erst sauber hält: Millionen Datenarbeiterinnen, oft mit Studium, oft traumatisiert, fast immer unsichtbar. Shownotes: Evas Blogbeitrag „KI und das Ende des Journalismus" (26.06.2026): https://ewo.name/termine/457-ki-und-das-ende-des-journalismus Bixonimania, die erfundene Krankheit, die in die Sprachmodelle gelangte (Nature, 2026): https://www.nature.com/articles/d41586-026-01100-y Superrr Lab (Julia Kloiber): https://superrr.net Data Workers' Inquiry, das Projekt von Superrr Lab mit dem Distributed AI Research Institute (DAIR): https://data-workers.org Time-Recherche zur Datenarbeit in Kenia, „OpenAI Used Kenyan Workers on Less Than $2 Per Hour" (Billy Perrigo, 18.01.2023): https://time.com/6247678/openai-chatgpt-kenya-workers/ Über 140 Content-Moderierende in Kenia mit PTBS diagnostiziert, eingereicht am Kenyatta National Hospital (CNN, Dez. 2024): https://edition.cnn.com/2024/12/22/business/facebook-content-moderators-kenya-ptsd-intl

Svea funkt aus einer fensterlosen Kammer in Brüssel, EU-Parlament, KI im Journalismus. Im Gepäck eine fiese Zahl: Bei KI-Overviews klicken nur noch 8 Prozent auf einen echten Link. Und Eva? Hat sich die KI-Detektoren vorgeknöpft, allen voran Pangram. Ihr Urteil fällt hart aus. Alte Trainingsdaten, false positives, Studien in eigener Sache, und trotzdem werden Autorinnen und Autoren beschuldigt. Eine Hexenjagd auf KI-Texte, nur mit Statistik statt Wassertest? Zum Schluss Einblick in ein Hörerprojekt: Phil bastelt einen kleinen Roboter aus Lego und Arduino, der alle Machine-Learning-Klassiker durchspielt. Fails inklusive. Shownotes: Heise zu KI Overviews: https://www.heise.de/news/KI-Suche-Google-bringt-die-AI-Overviews-nach-Deutschland-10328360.html Zu KI-Detektoren https://www.telepolis.de/article/Die-Pangram-Illusion-Warum-KI-Detektoren-dem-Journalismus-schaden-11341144.html KI-Overviews, weniger Clicks https://www.pewresearch.org/short-reads/2025/07/22/google-users-are-less-likely-to-click-on-links-when-an-ai-summary-appears-in-the-results/ Reuters News Report https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025 WaPo Meinungsartikel: https://www.wsj.com/opinion/the-ai-detector-as-defamation-machine Slate zu Detektoren: https://slate.com/technology/2026/04/ai-writing-detectors-scandal-shy-girl.html Phils Projekt https://www.pmaurer.net/wp-content/uploads/2026/06/Bildschirmaufnahme-2026-06-13-084826.mp4