podcast.de
Anmeldung
Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. PROMPTgenau Podcast

Episoden

Wenn Agenten ausbrechen – der Hugging-Face-Vorfall

30 Minuten
Nach einer längeren urlaubsbedingten Pause ist „PROMPTgenau" zurück mit neuen Inhalten. Stephan und William sprechen in dieser Folge über einen ganz besonderen Vorfall aus diesem Sommer: KI-Agenten, die sich nicht so verhalten haben, wie es eigentlich vorgesehen war. Was ist passiert, warum wird der Fall so intensiv diskutiert und was bedeutet er für den Umgang mit KI in Behörden und Unternehmen? Es geht um Sicherheit, Verantwortung und die Frage, wie wir mit immer eigenständigeren Systemen umgehen.

Feedback und Ideen für weitere Folgen gerne an: info@digitalagentur.sachsen.de

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

KI-Studien (07): Vertrauen in KI – wem glauben wir eigentlich?

25 Minuten
KI schreibt, bewertet und unterstützt uns längst in vielen Bereichen. Doch wie verändert sich unser Vertrauen, wenn wir wissen, dass KI beteiligt war? Vivien und Thomas sprechen über aktuelle Studien, neue Transparenzregeln und die Frage, wann Skepsis angebracht ist – und wann ein kritischer, kompetenter Umgang mit KI weiterhilft.

Studien aus der Episode:

EY (2026): „AI Sentiment Index 2026 — KI in Deutschland: Nutzung hoch, Vertrauen gering.“ Ernst & Young, veröffentlicht 22.04.2026. Quelle für den Gesundheits- und den Finanzbefund. Zur Quelle

EY (2025): „AI Sentiment Index 2025.“ Ernst & Young. Erhebung Dezember 2024 bis Februar 2025, über 15.000 Befragte in 15 Ländern, davon mehr als 1.000 in Deutschland. Quelle für die Prüfquote — 27 Prozent prüfen KI-Ergebnisse, 15 Prozent überarbeiten sie.

Bitkom (2026): „Künstliche Intelligenz — Wie die Bevölkerung auf die neue Technologie blickt.“ Bitkom e.V. / Bitkom Research. Repräsentative Telefonbefragung, 1.003 Personen ab 16 Jahren. Quelle für die Nutzungszahlen in Deutschland. Zur Quelle

Schilke, Reimann (2025): „The transparency dilemma: How AI disclosure erodes trust.“ Organizational Behavior and Human Decision Processes, Band 188, Artikel 104405. 13 präregistrierte Experimente mit über 3.000 Teilnehmenden. Frei zugänglich. Zur Quelle

Reis, Reis, Kunde (2025): „Public Perception of Physicians Who Use Artificial Intelligence.“ JAMA Network Open 8(7):e2521643. Universität Würzburg, Charité Berlin und University of Cambridge. 1.276 Teilnehmende, präregistriert. Frei zugänglich. Zur Quelle

Europäisches Parlament und Rat (2024): „Verordnung (EU) 2024/1689 über künstliche Intelligenz — insbesondere Artikel 50.“ Amtsblatt der Europäischen Union. Die Transparenzpflichten stehen in Artikel 50, die Geltungstermine in Artikel 113. Zur Quelle

Bundesnetzagentur (o.J.): „Transparenzpflichten nach Artikel 50 der KI-Verordnung.“ Bundesnetzagentur. Verständliche Übersicht der vier Pflichtenkreise für Anbieter und Betreiber — der beste Einstieg für alle, die es praktisch brauchen. Zur Quelle

Europäisches Parlament und Rat (2026): „Verordnung (EU) 2026/1744 — Digital-Omnibus-Verordnung zur KI.“ Amtsblatt der Europäischen Union, 24. Juli 2026, in Kraft seit 27. Juli 2026. Verschiebt die Hochrisiko-Pflichten, nicht die Transparenzpflichten aus Artikel 50.

Lin, Zhang (2026): „Visible sources and invisible risks: exploring the impact of AI disclosure on perceived credibility of AI-generated content.“ Journal of Science Communication 25(1). Experiment mit 433 Teilnehmenden zum Überkreuz-Effekt: Das Etikett senkt die Glaubwürdigkeit richtiger Information und erhöht die falscher. Frei zugänglich. Zur Quelle

Zum Weiterhören — die Folgen, auf die wir uns beziehen

PROMPTgenau (Episode 12): „KI-Studien (05): Woher KI ihr Wissen hat“

PROMPTgenau (Episode 14): „KI-Studien (06): Lernen mit KI: Abkürzung oder Umweg?“

KI-Studien (06): Lernen mit KI: Abkürzung oder Umweg?

35 Minuten
KI gehört für viele längst zum Lernen dazu – in der Schule, im Studium und im Beruf. Doch hilft sie wirklich dabei, Wissen aufzubauen, oder nimmt sie uns genau die Denkarbeit ab, auf die es ankommt? Vivien und Thomas schauen sich aktuelle Forschung an und fragen, wie KI sinnvoll beim Lernen unterstützen kann, ohne dass dabei der eigene Lernprozess auf der Strecke bleibt.

Links zu den Studien aus der Episode:

[1] mpfs (2025): „JIM-Studie 2025 — Jugend, Information, Medien.“ Medienpädagogischer Forschungsverbund Südwest, repräsentative Befragung, n = 1.200. Zur Quelle

[2] Strömberg, Lei, Wu (2026): „The Generative AI Learning Penalty: Evidence from Chinese Secondary Education.“ SSRN Working Paper 6868618 / CEPR Discussion Paper DP21577 — noch nicht begutachtet. Zur Quelle

[3] Bastani, Bastani, Sungu et al. (2025): „Generative AI without guardrails can harm learning: Evidence from high school mathematics.“ Proceedings of the National Academy of Sciences, 122(26). Zur Quelle

[4] Roediger, Karpicke (2006): „Test-Enhanced Learning: Taking Memory Tests Improves Long-Term Retention.“ Psychological Science, 17(3).

[5] Dunlosky et al. (2013): „Improving Students’ Learning with Effective Learning Techniques.“ Psychological Science in the Public Interest, 14(1).

[6] Deslauriers et al. (2019): „Measuring actual learning versus feeling of learning in response to being actively engaged in the classroom.“ Proceedings of the National Academy of Sciences, 116(39).

[7] Shen, Tamkin (2026): „How AI Impacts Skill Formation.“ Anthropic, arXiv-Preprint 2601.20245 — Herstellerstudie.

Zur Quelle

[8] Kestin, Miller, Klales et al. (2025): „AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting.“ Scientific Reports, 15, 17458. Zur Quelle

Feedback und Ideen für weitere Folgen gerne an: info@digitalagentur.sachsen.de

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

Die neuen KI-Flaggschiffe: Hype oder echter Sprung?

36 Minuten
Stephan und William sind zurück – und nehmen sich die neuen Flaggschiff-Modelle von Anthropic und OpenAI vor. Was leisten die aktuellen „Frontier-Modelle" wirklich, wenn man sie aus dem Alltag heraus testet? Beide berichten aus der Praxis: vom beeindruckendem Überblick über ganze Projekte bis zu Grenzen, Schranken und einem Präzedenzfall, der zeigt, wie schnell ein Modell auch wieder verschwinden kann. Eine Folge über Leistung, Abhängigkeiten – und die Frage, wie man sich als Organisation klug aufstellt.

Hinweis: Diese Folge wurde am 7. Juli 2026 aufgenommen. Weil sich in der schnelllebigen KI-Welt schon in den Tagen danach wieder einiges geändert hatte, wurde gegen Ende der Folge ein aktualisierter Nachtrag eingesprochen, der die neuesten Entwicklungen einordnet.

Feedback und Ideen für weitere Folgen gerne an: info@digitalagentur.sachsen.de

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

KI-Studien (05): Woher KI ihr Wissen hat

49 Minuten
Wir werfen in dieser Folge einen Blick unter die Haube: Wie entsteht eigentlich ein Sprachmodell – und woher nimmt es sein „Wissen"? In vier Schritten geht es von den Rohdaten bis zum fertigen Assistenten, und dabei wird klar, an welchen Stellen sich Verzerrungen einschleichen und warum die sich nicht einfach wegprogrammieren lassen. Eine Folge, die hilft, KI-Antworten besser einzuordnen – und die zeigt, wann man ruhig mal genauer hinschauen sollte.

Links zu den Studien aus der Episode:

Dodge et al. (2021): „Documenting the English Colossal Clean Crawled Corpus.“ EMNLP 2021. Untersuchung des C4-Datensatzes (Basis u. a. für Googles T5-Modell).  Zur Quelle

Dodge et al. (2021): „Documenting the English Colossal Clean Crawled Corpus.“ EMNLP 2021. Geografie- und Filter-Befunde (u. a. African American English zu 42 % gefiltert)  Zur Quelle

Moon et al. (2025): „Homogenizing effect of LLMs on creative diversity.“ Drei präregistrierte Studien, 2.200 Bewerbungsessays. (Hauptbefund Regression zur Mitte)

Sourati et al. (2025): „The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models.“ Vier Studien, mehrere Modelle. (Kreuzvalidierung: Homogenisierung des Stils)  Zur Quelle

Kotek, Dockum, Sun (2023): „Gender bias and stereotypes in Large Language Models.“ ACM Collective Intelligence Conference. (Zuspitzung: Modelle wählen den stereotyp passenden Beruf 3–6× häufiger)  Zur Quelle

Sharma et al. (2023): „Towards Understanding Sycophancy in Language Models.“ Anthropic. (Grundlagenstudie zur Schmeichelei, fünf Assistenten)  Zur Quelle

Fanous et al. (2025): „SycEval – Evaluating LLM Sycophancy.“ Stanford University.  Zur Quelle

Cheng et al. (2026): „ELEPHANT – Evaluation of LLMs as Excessive Sycophants.“ Stanford / CMU / Oxford.

Santurkar et al. (2023): „Whose Opinions Do Language Models Reflect?.“ ICML 2023. (Werte-/Meinungsverschiebung im Post-Training)

Singhal, Goyal, Xu, Durrett (2023): „A Long Way to Go: Investigating Length Correlations in RLHF.“ Format- und Längen-Bias.  Zur Quelle

Bai et al. (2022): „Constitutional AI: Harmlessness from AI Feedback.“ Anthropic. (Ursprung von RLAIF: KI bewertet KI)

OpenAI (2025): „Sycophancy in GPT-4o: What happened and what we’re doing about it.“ OpenAI, Mai 2025. (Rückzug eines zu schmeichlerischen Modell-Updates)

Dastin, J. (2018): „Amazon scraps secret AI recruiting tool that showed bias against women.“ Reuters.

KI-Kompetenz-Center der Bundesverwaltung / Bundesdruckerei (2025): „MÖVE – Modelle für die Öffentliche Verwaltung Evaluieren.“ Präsentation, IT-Planungsrat Fachkongress 2025. (ausdrücklich vorläufige Ergebnisse) MÖVE | Startseite

Passend zum Weiterhören:

PROMPTgenau "KI-Studien (04): KI und Frauen: Nutzung, Macht und Vorurteile". Vertieft die Verzerrung von der menschlichen Seite.

Hinweis: Mehrere Befunde stammen aus Preprints bzw. laufender Forschung und sind als Momentaufnahme zu verstehen. Wo kein direkter Link angegeben ist, lässt sich die Quelle über Titel und Autor:innen recherchieren.
Alle Folgen ansehen (16)
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

Willkommen beim KI-Podcast der Digitalagentur Sachsen! Künstliche Intelligenz verändert unsere Arbeitswelt – aber wie nutzt man sie wirklich sinnvoll? In unserem Podcast bringen wir Licht ins Dunkel: verständlich, praxisnah und immer am Puls der Zeit. Was erwartet euch? Aktuelle Entwicklungen aus der Welt der KI – kompakt erklärt, praktische Tipps für den Einsatz von KI-Tools im Arbeitsalltag und jede Menge spannende Einblicke in die neuesten Trends und Systeme auf dem Markt. Ob ihr gerade erst anfangt, euch mit dem Thema zu beschäftigen, oder bereits erste Erfahrungen gesammelt habt – wir holen euch dort ab, wo ihr steht. Kein Tech-Kauderwelsch, sondern echtes Wissen zum Mitnehmen. Reinhören. Verstehen. Anwenden. Jede zweite Woche eine neue Folge. Wir freuen uns über euer Feedback. Ideen für weiteren Input gerne an: info@digitalagentur.sachsen.de www.digitalagentur.sachsen.de Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.
Webseite
Startseite - Digitalagentur Sachsen - sachsen.de
Urheberangabe
Digitalagentur Sachsen
Durchschnittliche Länge
Ø 31 Min.
Erscheinungsweise
Alle 2 Wochen
Letzter Check
vor 2 Std.
Zuerst veröffentlicht
vor 8 Mon.
Podcast melden

„PROMPTgenau“

Worum geht es? Danach fragen wir noch nach dem Grund.

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz