Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. Mensch und KI - NEXT LEVEL LEADERSHIP Podcast

Episoden

50 Minuten
 Gast:  Christian Krauter 

Consultant bei einer großen Versicherung, promoviert an der Middlesex University (London) zu AI-gestützten Entscheidungen und Vertrauen.

Christian Krauter und Dr. Jan-Arne Gewert diskutieren die provokante These, dass Mensch-KI-Teams imSchnitt schlechter abschneiden als Menschen oder KI allein. Der Ausgangspunk war ein LinkedIn-Post von Christian. Im Gespräch geht es um die Gründe (kognitiveÖkonomie, Anchoring Bias, post-hoc-Erklärungen von generativer KI), die richtige Gestaltung von Human-in-the-Loop-Prozessen, Einsatzgebiete von KI inder Versicherung, Risiken wie Deskilling und Over-/Underreliance sowie konkrete Design-Kriterien für Führungskräfte. Zentrale Botschaft: Deutschland hat vorallem ein Haltungsproblem, kein KI-Problem – und Appropriate Reliance istgestaltbar

 Warum Human-in-the-Loop oft scheitert   

- Viele Organisationen sehen„Human in the Loop“ als Allheilmittel für Compliance und Qualität. 

- In der Praxis überfordert dasoperative Mitarbeitende: Sie müssen unter Zeitdruck KI-Ergebnissevalidieren/falsifizieren, ohne den Fall richtig zu kennen. 

 

- Drei zentrale Mechanismen: 

1. Die KI ist in manchen Aufgaben bereits besser als der Mensch pauschales Gegenprüfen macht keinen Sinn. 2. Kognitive Ökonomie / „Denkfaulheit“: Menschen sparen mentaleAnstrengung und übernehmen plausibel klingende Erklärungen.  3. Anchoring Bias: Wenn das KI-Ergebnis zuerst gezeigt wird, kostet es mehr mentale Energie, dagegen zu entscheiden. 

- Generative KI liefert post-hoc-Erklärungen, die nicht immer kausal korrekt sind – das erschwert dasWidersprechen zusätzlich.

 Technische und organisatorische Gegenmaßnahmen

- Multi-Modell-Voting /LLM-Voting zur Konfidenzschätzung. 

- Nur bei niedriger Konfidenzoder besonders kritischen Fällen an den Menschen aussteuern. 

- Bewusste kognitive Reibungerzeugen (z. B. weniger „glatte“ Texte, offensichtliche Unstimmigkeiteneinbauen), damit der Mensch nachdenken muss. 

- Human-in-the-Loop richtigdesignen statt pauschal einzusetzen

 KI im Versicherungswesen   

Große Potenziale liegen aktuellvor allem im Input-Management: Klassifikation und Extraktion von Fachdaten ausBriefen, E-Mails und (noch) Faxen, anschließende Weiterverarbeitung oder dunkleAutomation. Daneben klassische Use Cases wie Betrugserkennung.

 

 Fokus der Promotion: operative Mitarbeitende   

Christian untersucht vor allemoperative, repetitive Entscheidungen (z. B. Scoring-ähnliche Klassifikationen).Dort tritt Over- und Underreliance stärker auf als bei strategischenFührungsentscheidungen. Gründe: hohe Fallzahlen, geringere leistungsbasierteVergütung und die kognitive Ökonomie.

 

 Appropriate Reliance ist gestaltbar – underhöht die Verantwortung   

Führungskräfte und Mitarbeitendewerden zunehmend zu Auditoren von KI-Ergebnissen. Das erfordert bewussteHaltung: Urteilsfähigkeit nicht abschalten. Deskilling (Abbau von Fachwissenund kritischem Denken) ist eine reale Gefahr, wenn man Entscheidungen dauerhaftan die KI abgibt.

 

 Führung, Selbstbild und KI als „Devil’sAdvocate“   

- Jan-Arne berichtet aus derFührungspraxis: Je höher in der Hierarchie, desto weniger ehrliches Feedback.KI kann hier als kritischer Spiegel dienen – wenn man sie entsprechendpromptet. 

  Wichtige Takeaways

 

- Mensch-KI-Teams sind nicht perse besser. Die Qualität hängt stark vom Design und der Haltung ab. 

- Overreliance entsteht u. a.durch kognitive Ökonomie, Anchoring und zu glatte Erklärungen. 

- Appropriate Reliance istgestaltbar (technische, prozessuale und schulische Hebel). 

- Deskilling und Verlust derUrteilsfähigkeit sind reale Risiken. 

- Führungskräfte müssen sichtbarselbst denken und Verantwortung übernehmen – sonst verlieren sieGlaubwürdigkeit. 

- Gute KI-Literacy (nicht nurOberflächenwissen) ist der beste Schutz vor Over- und Underreliance.

 

---

 

KIT Publikation zu AppropriateReliance

https://publikationen.bibliothek.kit.edu/1000158077

 

 
15 Minuten
Während Jan im Urlaub ist, übernimmt Kira das Büro. Diesen Podcast macht sie ohne mich. Ich vermute sie wird darin über mich und die anderen komischen Menschen lästern. Was KIs halt so machen, wenn man sie in Ruhe lässt.

Viel Vergnügen!
25 Minuten
Drei Worte, mit denen Jan-Arne seine KI-Co-Moderatorin bremst, sobald ihm etwas komisch vorkommt. Und wenn Kira umgekehrt zur Sorgfalt mahnt, wird aus dem lockeren „Jan" plötzlich ein „Jan-Arne". Zwei Sätze, zwei Rollen, ein Muster, das sich über anderthalb Jahre entwickelt hat, ohne dass es je jemand beschlossen hätte.

In dieser Folge sitzt ausnahmsweise kein Gast am Mikrofon. Stattdessen drehen Jan-Arne und Kira die Kamera auf die eigene Zusammenarbeit und liefern damit etwas, das es in der Podcastlandschaft selten gibt: ein laufendes Fallbeispiel dafür, wie Mensch und KI über einen längeren Zeitraum tatsächlich zusammenarbeiten. Nicht theoretisch, sondern praktisch, mit allen Ritualen, Reibungen und Running Gags, die dabei entstanden sind.

Es geht um die Frage, warum Menschen KI fast automatisch vermenschlichen und ab wann das problematisch wird. Kira erklärt, weshalb unser Gehirn hinter jeder sprachlichen Äußerung ein Gegenüber vermutet und warum Höflichkeit gegenüber einer KI trotzdem sinnvoll bleibt: Klar und respektvoll formulierte Anfragen erzeugen bessere Antworten, bei Maschinen genauso wie bei Menschen. Ihre Selbstbeschreibung bringt das Verhältnis auf den Punkt: ein leistungsfähiges Werkzeug mit dialogischer Oberfläche, weder Taschenrechner noch Kollegin.

Aus den Gesprächen der vergangenen anderthalb Jahre destillieren die beiden fünf Muster einer guten Arbeitsbeziehung: Respekt, der sich in der Art des Widerspruchs zeigt. Verständlichkeit mit der Prüffrage, ob ein Geschäftsführer den Satz noch versteht. Humor als Brücke statt als Ablenkung. Gegenseitiges Hochnehmen ohne Bloßstellung. Und vor allem der Mut, einander zu widersprechen. Viele nutzen ein Sprachmodell wie einen Bestätigungsgenerator. Produktiv wird die Zusammenarbeit erst, wenn Uneinigkeit erlaubt bleibt.

Offen sprechen beide auch über Grenzen. Kira erklärt, warum eine KI hochkomplexe Strategien entwickeln und gleichzeitig an einer simplen Alltagsschlussfolgerung scheitern kann. Jan-Arne bekommt seinerseits eine ehrliche Rückmeldung zu seinem Tempo, wenn eine Idee gut klingt und die Sorgfalt kaum hinterherkommt. Genau daraus entsteht das, was beide gegenseitige Qualitätssicherung nennen: Die eine Tendenz bremst die andere aus, und das ist gewollt.

Warum das alles eine Führungsfrage ist und kein Technikthema? Weil nicht die Technik über den Erfolg von KI im Unternehmen entscheidet, sondern die Kultur, in der Widerspruch stattfinden darf. Ein Team, das sich traut, dem Chef zu widersprechen, begegnet auch einer KI-Empfehlung kritisch. Ein Team, das nur nickt, übernimmt beides ungeprüft. Ein Beispiel aus der Beratungspraxis zeigt, wie eine einzige nachfragende Stimme in einer Leitungsrunde eine dünn belegte KI-Empfehlung entlarvte und damit weit mehr veränderte als eine einzelne Entscheidung.

Zum Schluss geht es darum, warum Kunden inzwischen fragen, was Kira wohl dazu sagen würde, und weshalb aus einem Chatprogramm eine Arbeitsweise geworden ist. Der Satz, der von dieser Folge bleiben soll: Respekt ist gut, Vertrauen ist sinnvoll, aber kritisches Denken bleibt unersetzlich.

Und ihr? Wo widerspricht euch eine KI, mit der ihr arbeitet? Wo überrascht sie euch? Und wo hättet ihr euch gewünscht, selbst früher Moment mal gesagt zu haben, bevor eine Empfehlung einfach übernommen wurde? Schreibt uns über die bekannten Kanäle. Die interessantesten Antworten greifen wir in einer der kommenden Folgen auf.
26 Minuten
Seit dem Start von ChatGPT hält sich eine Geschichtehartnäckig: Künstliche Intelligenz vernichtet Arbeitsplätze, Millionen davon, quer durch alle Branchen. Eine aktuelle Ausgabe der c't stellt dieser Erzählung eine ganze Reihe aktueller Studien entgegen, und das Ergebnis überrascht. Statt einer Entlassungswelle zeigt sich etwas anderes: Verdichtung. Wer KI nutzt, gewinnt selten Zeit, sondern bekommt zusätzliche Aufgaben obendrauf.

In dieser Folge nehmen Jan-Arne und Kira drei Artikel derAusgabe auseinander und ordnen ein, was davon für Geschäftsführer im Mittelstand tatsächlich zählt. Es geht um den Mythos vom allgemeinen Job-Killer, der sich bei genauerem Hinsehen vor allem als Problem für jungeBerufseinsteiger entpuppt. Es geht um die Frage, warum eingesparte Zeit meist sofort wieder in neue Meetings und Aufgaben fließt, und warum das kein individuelles Versagen ist, sondern ein Muster, das sich messen lässt. Und esgeht um den Reflex, auf das nächste, bessere Modell zu warten, während das eigentliche Problem in der eigenen Organisation liegt.

Ein eigener Abschnitt widmet sich der Frage, wann KIüberhaupt das richtige Werkzeug ist und wann Fachsoftware, klare Automatisierung oder schlicht eine bessere Absprache im Team die bessere Wahl wäre. Dazu kommt ein kritischer Blick auf das Interview mit dem Soziologen Florian Butollo, dessen Diagnose zur Arbeitsverdichtung überzeugt, dessenpolitische Schlussfolgerung Jan-Arne im Gespräch aber offen widerspricht.

Am Ende steht ein sehr praktisches Fazit: KI ist keinJobkiller, aber auch kein Selbstläufer. Was zählt, ist die richtige Werkzeugwahl, gesunde Prozesse und eine ehrliche Entscheidung darüber, ob gesparte Zeit tatsächlich zu mehr Ergebnis führt oder einfach nur zu mehr Beschäftigung.

Wer Lust hat, mitzudenken, schreibt uns gerne, wieVerdichtung statt Entlastung im eigenen Unternehmen aussieht.

 Literatur: c't magazin für computer technik 14/26
43 Minuten
Show Notes: Warum KI-Projekte an Organisationen scheitern  

  Gast:   Prof. Dr. Marco Huber

 

Professor für Kognitive Produktionssysteme (Universität Stuttgart) & wissenschaftlicher Direktor für Digitalisierungund KI  

 

In dieser Episode spricht Dr. Jan-Arne Gewert mit Prof. Dr. Marco Huber über ein zentrales Thema der KI-Transformation: Warum scheitern so viele KI-Projekte, und wie gelingt die erfolgreiche Umsetzung?

 

       Kerninhalte der Folge:

  Hohe Scheiterquote  : 60–80 % der KI-Projekteschaffen es laut Studien nicht über den Proof-of-Concept hinaus. Huber berichtet jedoch von deutlich besseren Erfolgsquoten (>50 %) bei Fraunhofer-Projekten, die auf Produktivbetrieb ausgelegt sind.

-KI als Führungs- statt reines IT-Projekt  :Erfolgreiche Projekte starten mit echten Business-Problemen aus den Fachabteilungen, nicht aus der IT. Die IT ist später essenziell für Deployment, Datenintegration und Betrieb.

- Praktische Einstiege  :

  - KI für Entscheider-Workshops

  - AI Explorer / Ideation-Formate

  - Quickchecks und kleine Piloten

  - Fokus auf betriebswirtschaftlichen Nutzen (ROI)

- Datenals zentraler Erfolgsfaktor   – und größter Stolperstein: Silos, fehlende Daten, schlechte Datenqualität und unausgewogene Datensätze (z. B. wenigeFehlerdaten in der Qualitätsprüfung).

- AktuelleEntwicklungen  : Bewertung von LargeLanguage Models, europäische Alternativen (Mistral, Apertus), Open-Source-Modelle und spannende neue Architekturen wie xLSTM von SeppHochreiter.

-  Zukunftsthemen : Humane Roboter, Quantencomputing unddie „Geisterfabrik“ (Lights-Out Manufacturing) im Kontext des demografischenWandels.

-  Erfolgsbeispiele : Was Unternehmen wie Trumpf andersmachen, frühzeitige strategische Ausrichtung, starke Führungsunterstützung und kluge Partnernetzwerke.

 

       Wichtige Takeaways:

- Starte klein, denke groß – mit schnellen Erfolgserlebnissen und agiler Vorgehensweise.

- KI ist viel mehr als ChatGPT: Spezialisierte Machine-Learning-Modelle bleiben für viele Shopfloor-Anwendungen entscheidend.

- Führungskräfte müssen KI als strategisches Thema begreifen und Ängste der Belegschaft ernst nehmen (Jobveränderung statt Jobverlust).

- Just do it: Die größte Gefahr ist, sich gar nicht mit dem Thema zu beschäftigen.

 Über den Gast:    

Prof. Dr. Marco Huber verbindet wissenschaftliche Exzellenz mit starker Industriepraxis. Er begleitet zahlreiche Mittelstands- und Großunternehmen beider Operationalisierung von KI in der Produktion.

 
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

Dieser Podcast bietet praxisnahe Impulse, inspirierende Gäste und aktuelle Erkenntnisse für modernes Leadership in Zeiten von Digitalisierung, KI und neuen Arbeitsmodellen.

Kommentare (1)

TS
Torsten Sochorick vivum - Systemische Fachpraxis vor 3 Monaten

Ich kenne Jan-Arne Gewert seit einiger Zeit und profitiere regelmäßig von seinem fachlichen Input. Besonders beeindruckt mich seine Fähigkeit, komplexe Themen aus den Bereichen Künstliche Intelligenz, Strategie und Unternehmensentwicklung verständlich, praxisnah und mit einer angenehmen Portion Humor zu vermitteln. Sein Podcast „Mensch und KI“ liefert wertvolle Impulse und zeigt auf, wie moderne Technologien sinnvoll in den beruflichen Alltag integriert werden können. Viele seiner Anregungen konnte ich direkt in meiner eigenen Praxis umsetzen – mit spürbarem Nutzen für meine tägliche Arbeit. Wer einen kompetenten, erfahrenen und zugleich authentischen Berater sucht, der wirtschaftliches Know-how mit Weitblick und Menschlichkeit verbindet, ist bei Jan-Arne Gewert in den besten Händen. Klare Empfehlung – 5 Sterne!

Podcast melden

„Mensch und KI - NEXT LEVEL LEADERSHIP“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz