Mensch und KI - NEXT LEVEL LEADERSHIP

Dialogepisode mit Jan-Arne Gewert und KI Kira  ca. 25 Minuten


 


Viele Geschäftsführer kennen das: Man stellt der KI zweimal die gleiche Frage – und bekommt zwei verschiedene Antworten. Absicht oder Fehler? Jan und Kira erklären, warum das kein Bug ist, sondern Systemdesign. Und sie zeigen, was das konkret für Führungskräfte bedeutet, die KI verlässlich einsetzen wollen.


Im Mittelpunkt stehen zwei grundlegend unterschiedliche Fehlerquellen, zwei Praxisbeispiele aus dem Mittelstand – und ein klares Führungsprinzip: Orchestrierung statt Bedienung.


•     Warum KI nicht deterministisch arbeitet – und was dasmit einem erfahrenen Mitarbeiter zu tun hat


•     Varianz vs. Halluzination: zwei Fehlerquellen, dieFührungskräfte kennen müssen


•     Praxisfall 1: Eine Anwältin nutzt KI für Präsentationen– und lernt, wo die Grenze liegt


•     Praxisfall 2: Ein Zulieferer-GF willLieferantenbewertungen beschleunigen – was schiefgeht und was gut geht


•     Die drei häufigsten Fehler von Führungskräften imKI-Einsatz


•     Orchestrierung als Führungskompetenz: Welche KI fürwelche Aufgabe?


•     Datensouveränität im Mittelstand: Was bedeutet dasRisikoprofil meines Unternehmens für die KI-Wahl?


•     Drei konkrete Empfehlungen für den Arbeitsalltag


 


Varianz ist kein Versagen – sie ist eine Designentscheidung. Wer wirklich immer identische Ausgaben braucht,kann die Varianz technisch auf null stellen. Verliert dann aber auch Kreativität und Nuancen.


Halluzinationen klingen genauso überzeugend wie richtige Antworten. Die Antwort darauf ist nicht blindes Misstrauen, sondern Urteilsvermögen: Je spezifischer, aktueller undrechtlich relevanter eine Information, desto dringender die Prüfpflicht.


KI ersetzt nicht die Entscheidung. Sie verändert, wie man zu einer Entscheidung kommt.Einordnung und Verantwortung bleiben beim Menschen.


Die eigentliche Führungskompetenz liegt in der Orchestrierung: Welches Werkzeug passt fürwelche Aufgabe – und wie kombiniere ich sie sinnvoll?


KI-gestützte Prozesse brauchen Rückkopplung. Modelle werden aktualisiert, Verhalten verändertsich. Als Faustregel: alle sechs bis acht Wochen kurz prüfen, ob die Ausgabennoch dem entsprechen, was man erwartet.


1. Unterscheiden lernen. KIbewusst für das einsetzen, wofür sie stark ist – Struktur, Formulierung, erste Entwürfe. Fakten, Zahlen und rechtliche Inhalte gezielt prüfen.


2. Eine einfache Prüfroutine einführen. Wenn KI-generierte Inhalte nach außen gehen oder Entscheidungenbeeinflussen – dann braucht es eine kurze Prüfstufe. Nicht kompliziert, abervorhanden.


3. Dranbleiben. Nicht als Technologiefanatiker – sondern als Führungskraft, die weiß, was in ihrem Unternehmen läuft.


•      ChatGPT, Claude, Microsoft Copilot – für Erstellung,Struktur, Formulierung


•     Perplexity – für aktuelle Fakten und Recherche mitQuellenangaben


•     Telekom KI-Umgebung, STACKIT (Schwarz-Konzern) –europäische Alternativen mit höherer Datensouveränität


 


"Mensch & KI" ist der Podcast für Geschäftsführer und Führungskräfte im deutschen Mittelstand.


Gastgeber Jan-Arne Gewert – KI- und Strategieberater, Dozent an DHBW Lörrach und FHNW (Schweiz) – spricht in Staffel 2 gemeinsam mit KI-GesprächspartnerinKira über die Fragen, die Unternehmer heute wirklich beschäftigen.


Nicht Technikfeuerwerk, sondern echte Orientierung: verständlich, kritisch, praxistauglich.


Kiras Stimme wurde mit ElevenLabs produziert, ihr Bild mit Nano Banana. Der Dialog ist echt — Kira denkt mit, widerspricht, erklärt.

Mensch & KI – Folge mit Julian Funke


KIim Mittelstand: Zwischen Hype, Menschenverstand und Human in the Loop


In dieser Folge spricht Jan-Arne Gewert mit Julian Funke –IT-Experte, KI-Berater, Buchautor und seit Kindheitstagen tief verwurzelt in der IT-Welt (die Familie ist seit Generationen in der Branche).


Julian berät Unternehmen und Startups bei der intelligenten Prozessgestaltung und hat zwei Bücher zum Thema KI im Mittelstand veröffentlicht. Nebenbei engagiert er sichbei der Freiwilligen Feuerwehr – direkter geht Ergebnisorientierung kaum.


 


•      Julian Funke


•      IT-Berater, KI-Experte und Unternehmer


•      Erfahrung in Finanzdienstleistung, Startups sowie IT- und KI-Architektur


•      Autor von "100 KI Use Cases für den Mittelstand" (2024) https://julian-funke.de/produkt/e-book-100-ki-use-cases-fuer-den-mittelstand/Die Revolution des Wissensmanagements https://shop.haufe.de/prod/die-revolution-des-wissensmangements?srsltid=AfmBOoqtHfMb_Mo3Appvjn7eC9nSN3bSodw16ZpMy3IF4uAoV2pmHoQj


und dem demnächst erscheinenden Buch


Julian bricht früh mit einem verbreiteten Missverständnis:KI ist kein Allheilmittel. Wer schlechte Prozesse automatisiert, bekommtautomatisiert schlechte Prozesse – "garbage in, garbage out". Der Einsatz von KI erfordert zunächst saubere Prozesse, klare Verantwortung und ein realistisches Erwartungsmanagement. Klassische if-then-else-Logik schlägt KI überall dort, wo Determinismus gefragt ist.


 


Viele mittelständische Unternehmen lehnen Cloud-KI-Systeme grundsätzlich ab und bestehen auf eigener Hardware ("on premises"). Julian versteht die Skepsis, plädiert aber dafür, KI zunächst im kleinen Rahmen, mit unkritischen Daten, überschaubaren Kosten und Cloud-Systemen in deutschenRechenzentren auszuprobieren. Eine verlängerte Probefahrt statt Direktkauf: So lässt sich prüfen, ob KI für den eigenen Prozess überhaupt Sinn ergibt.


Jan-Arne und Julian sind sich einig, dass Regulierung alleinkeine Lösung ist – die Wirklichkeit ändert sich schneller als Gesetze. Juliansieht den EU AI Act jedoch pragmatisch: Er schafft Rechtssicherheit und gibt Beratern eine klare Argumentationsbasis. Jan-Arne betont lieber wertebasiertesHandeln statt Regelflut, und verweist auf den bekannten Harvard-Juristen, der aus Frustration über das Ergebnis des Akts seinen Job aufgab.


Angst vor KI ist bei Führungskräften oft Angst vorBedeutungsverlust. Julian empfiehlt eine nüchterne Analyse: Was genau macht meinen Job aus? Wenn es hauptsächlich das Zusammenfassen von Texten ist – dann kann KI helfen, schneller zu werden. Wenn es Urteilsvermögen, Bauchgefühl und Verantwortung braucht, bleibt der Mensch unverzichtbar. KI als Copilot, nicht als Autopilot.


Ein KI-Modell sollte E-Mail-Bestellungen automatisch insERP-System übertragen. Im Test: 98% Genauigkeit. In der Praxis: 4%. Der Grund: Bestelldetails wurden zwischendurch telefonisch geändert, ohne dass dieser Schritt im dokumentierten Prozess auftauchte. Lehre: KI braucht vollständige Datenketten. Was sie nicht kennt, kann sie nicht lernen.


•      Human in the Loop bleibt entscheidend – rechtlich, ethisch und praktisch.


•      Medienkompetenz und Wissenskritik sind die wichtigsten Fähigkeiten im KI-Zeitalter.


•      KI-gestützte Effizienz kann uns mehr Zeit für das geben, was Menschen gut können: echteZusammenarbeit und Entscheidung mit Verantwortung.


•      Buch:"100 KI Use Cases für den Mittelstand" (2024)


•      Demnächst:"KI-gestützte Prozessautomatisierung" (erscheint Mitte 2026)


•      Studie zu KI im Telefonsupport MIT – Jan-Arneverlinkt nach Verifizierung


•      Die Intelligenz in Industrienationen sinkt:


https://www.pnas.org/doi/10.1073/pnas.1718793115


https://deutsche-wirtschafts-nachrichten.de/703692/sinkende-intelligenz-die-folgen-koennten-dramatisch-sein"Gebt der KI an den sinnvollen Stellen eine Chance. KI ist nichtdie Lösung für alles. Aber an manchen Stellen wird es uns das Leben und dasArbeiten enorm erleichtern."

„KI wird überschätzt und unterschätzt – und beides kostet Sie bares Geld“


Dauer: ca. 25 Minuten 


Mit: Jan (Host) & Kira, eine KI mit einer Stimme von Elevenlabs


 


KI ist gerade in aller Munde –doch im Mittelstand begegnet sie zwei grundlegenden Missverständnissen: Siewird als Allheilmittel überschätzt und gleichzeitig als irrelevantesGroßunternehmer-Spielzeug unterschätzt. Beide Haltungen sind gefährlich und kosten Geld, Zeit und Wettbewerbsfähigkeit.


Jan spricht in dieser Folge mitKira – einer KI – darüber, wie Geschäftsführer mittelständischer Unternehmen den Unterschied erkennen, die richtigen Fragen stellen und KI als das nutzen, was sie wirklich ist: ein Beschleuniger.


Die Technologieillusion: KI ist kein Lösungsgenerator, sondern ein Verstärker. Unklare Prozesse werden durch KInicht behoben – sie werden schneller und lauter sichtbar.


Verantwortungsdelegation: Der Satz „Das Modellempfiehlt“ ist eine der gefährlichsten Entwicklungen im Management.Führungsurteil lässt sich nicht an eine KI delegieren.


     Die Kulturillusion: KI-Workshops verändern keineUnternehmenskultur. Kultur zeigt sich im Verhalten unter Druck – und KI macht dieses Verhalten nur transparenter.


Der kumulative Zeiteffekt: Allein durch denEinsatz eines KI-Assistenten für Routineaufgaben können bei 30 Mitarbeitenden über 2.000 Arbeitsstunden pro Jahr freigesetzt werden – Kapazität, die Wettbewerber bereits nutzen.


   Machtverschiebung durch Wissensdemokratisierung: Mitarbeiter können mit guten Prompts können heute Analysen erstellen, die früher Expertenteams vorbehalten waren. Das verändert Führungsstrukturen leise, aber nachhaltig.


Talentbindung: Die nächste Generation erwartetmoderne Werkzeuge. Wer KI ignoriert, verliert die Leute, die beim Aufholen helfen würden.


Transparenzbedrohung: KI deckt Widersprüche inStrategiepapieren und Argumentationslücken auf – das ist keinTechnologieproblem, sondern ein Führungsproblem.


Nicht: „Was kann KI?“ – sondern: „Was ist unserUnternehmen bereit zu verändern?“


     Drei Fragen vor jeder KI-Strategie: Wie klar ist unsereStrategie wirklich? Wie robust sind unsere Prozesse tatsächlich? Wie souveränist unsere Führungskultur?


     Erfolgreiche KI-Einführungen werden von derGeschäftsführung persönlich begleitet – nicht von der IT-Abteilung getrieben.


Kira bezieht sich auf die Dilts-Pyramide, siehe auch : https://gewert-consulting.de/media/dilts_3-1.m4v


     Prozess-Audit: Analysieren Sie in den nächstenzwei Wochen die drei wichtigsten Entscheidungsprozesse in Ihrem Unternehmen. Wosteckt implizites Wissen, das nirgendwo dokumentiert ist?


•     Verantwortungsgespräch: Klären Sie mit IhrerFührungsmannschaft, wer Entscheidungen trifft und wer Verantwortung trägt –auch wenn KI künftig mehr Informationen liefert. Dieser Rahmen muss vor demEinsatz der Technologie stehen.


•     Starten Sie mit dem Klarsten, nicht dem Größten: WählenSie einen Prozess mit klar definierten Zielen und messbarem Ergebnis. MachenSie dort einen echten Piloten – nicht als Experiment, sondern als Lernerfahrungmit echten Konsequenzen.


„KI ist ein machtvolles Werkzeug fürMenschen und Organisationen, die wissen, was sie wollen. Für alle anderen istes zunächst ein teurer Spiegel. Nutzen Sie ihn.“


— Kira


Mensch & KI richtet sich an Geschäftsführer mittelständischer Unternehmen, die KI jenseits von Hype undHysterie einordnen wollen. Jede Folge verbindet menschliche Führungsperspektive mit analytischer KI-Einschätzung – direkt, praxisnah und ohne Schönfärberei.


 


Worum geht es in dieser Folge?Die wichtigsten Themen im Überblick


Teil 1 – Wo KI überschätzt wird


Teil 2 – Wo KI unterschätzt wird


Teil 3 – Die eigentliche Führungsaufgabe

Mehr Freiheit im Job klingt gut. Aber Freiheit ohne Verantwortung funktioniert nicht.


In dieser Folge spricht Jan-Arne mit Ika Amonath über neue Arbeitsmodelle, Remote Work, „Überangestellte“ mit zwei Vollzeitjobs, Digital Nomads, Kontrollverlust – und darüber, warum gute Führung heute erwachsene Menschen braucht.


Ist Homeoffice produktiver? Warum ist Vertrauen kein Kuschelfaktor? Kann KI eine bessere Führungskraft sein? Und was bedeutet Verantwortung in einer Arbeitswelt ohne festen Schreibtisch?


Ein ehrliches, humorvolles und stellenweise unbequemes Gespräch über Freiheit, Ergebnisorientierung und die Zukunft von Führung.


NZZ-Artikel zu den „Überangestellten“ (Overemployed im Homeoffice): https://www.nzz.ch/technologie/beim-luegen-darfst-du-dich-nicht-schlecht-fuehlen-wie-es-manchen-angestellten-gelingt-im-home-office-fuer-zwei-vollzeitstellen-zu-arbeiten-ld.1677534


Gleitzeitbetrug als Kavaliersdelikt?


https://www.galaxus.de/de/page/in-europa-mogeln-4-von-5-bei-der-arbeitszeit-im-homeoffice-41150





Team Canvas, nützlich um virtuell Teams zu schmieden


https://gewert-consulting.de/media/team_model_canvas_1.pdf





Nils v. Quaquebeke et. al zu KI in der Führung


https://journals.sagepub.com/doi/10.1177/15480518231181731?icid=int.sj-abstract.citing-articles.24