Anmeldung Registrierung
Auto Hell Dunkel
Erweiterte Suche
  1. Startseite
  2. Podcasts
  3. VENTURE AI PODCAST Podcast

Episoden

10 Minuten
Zwei KI-Agenten diskutieren Norman Müllers Essay „Wir profitieren von KI. Aber was hinterlassen wir unseren Kindern?“. Ihr Streit beginnt beim Berufseinstieg: Wenn KI Recherchen, erste Entwürfe und andere Routineaufgaben übernimmt, gewinnen Nachwuchskräfte Zeit. Doch wo sammeln sie die Erfahrung, die sie später brauchen, um Ergebnisse zu prüfen und schwierige Fälle selbst zu lösen?

Eine Perspektive sieht darin die Chance, junge Menschen früher an anspruchsvolle Aufgaben heranzuführen. Die andere verteidigt Lernräume, in denen sie Zusammenhänge durch eigene Versuche und Fehler verstehen. Die Agenten hinterfragen auch Normans Vorschläge: Werden Unternehmen gesparte Zeit tatsächlich in Betreuung investieren? Und wie lässt sich KI in Schulen und Betrieben so einsetzen, dass Menschen mit ihrer Hilfe selbstständiger werden? Im Mittelpunkt steht Enkelfähigkeit: Welche Möglichkeiten zu lernen und zu entscheiden geben wir an die nächste Generation weiter?

Kapitel

* 00:00 Wenn KI die Einstiegsaufgaben übernimmt: Befreiung oder Verlust?

* 02:21 Wie Expertise entsteht und warum auch Erfahrene KI prüfen müssen

* 04:38 Nachwuchs, Rentenwelle und die Grenzen von KI-Nachhilfe

* 06:57 Lernräume neu gestalten: Was enkelfähige KI-Nutzung verlangt

Liest du hier regelmäßig mit? Dann unterstütze unsere Arbeit mit einem bezahlten Abo.

Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.

Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.

Der Essay zur Folge

Wir profitieren von KI. Aber was hinterlassen wir unseren Kindern?

Warum KI-Transformation enkelfähig werden muss.

VENTURE AI ACADEMY

Unsere digitale Plattform ist Ihr Zugang zu praxisnaher Qualifizierung im Bereich Künstliche Intelligenz, kuratiert für Entscheider:innen und Teams im Mittelstand.

Ob kompakte Webinare, vertiefende Online-Kurse oder interaktive Branchenformate: Hier lernen Sie, was Sie wirklich brauchen, um KI im eigenen Unternehmen sicher und gewinnbringend einzusetzen.

Wenn du uns dabei unterstützen möchtest, diesen Podcast zu einer Allianz von Zukunftsarchitekten der KI-Transformation zu machen, in der wir offen über Chancen, Risiken und reale Erfahrungen mit Künstlicher Intelligenz sprechen, dann abonniere uns auf Substack, YouTube, Spotify oder Apple Podcasts. Dein Abonnement kostet dich nichts, hilft uns aber sehr, noch mehr herausragende Persönlichkeiten für tiefgehende und inspirierende Podcast Gespräche zu gewinnen. Vielen Dank für deinen Support.

Darüber hinaus laden wir dich ein, Teil der Plattform des Bundesverbands für KI-Transformation e.V. zu werden. Hier vernetzen sich mittelständische Unternehmen, KI Expertinnen und Experten, Startups sowie Vertreterinnen und Vertreter aus Forschung und Wissenschaft, um Wissen zu teilen, Erfahrungen auszutauschen und um an konkreten KI-Projekten zu arbeiten. In unserer Podcast Community kannst du dich einbringen, mitdiskutieren und den Bundesverband als Mitglied aktiv unterstützen und mitprägen.

Zur Plattform:

https://www.venture-ai-germany.space

Vernetze dich mit Norman auf LinkedIn:

https://www.linkedin.com/in/muellernorman

Get full access to VENTURE AI STACK at www.ventureaistack.com/subscribe
52 Minuten
Eine neue Rezeptur kann viele Versuche kosten, bevor sie die gewünschten Eigenschaften erreicht. Thomas Keller von Riegg & Partner intercorp spricht mit Norman Müller darüber, wie Unternehmen frühere Entwicklungsdaten für die Auswahl des nächsten Versuchs nutzen können. An Beispielen aus der Lebensmittel- und Kunststoffindustrie geht es um Vorhersagemodelle, die Bewertung von Ergebnissen und die Zusammenarbeit zwischen Entwicklern und KI. Wir unterscheiden technische Herstellbarkeit vom späteren Markterfolg und fragen, woran ein Unternehmen den Nutzen eines ersten Projekts erkennen kann.

Kapitel

* 00:00 Einstieg: KI für konkrete Produktentscheidungen

* 01:39 Warum Thomas den Hebel in Forschung und Entwicklung sieht

* 04:42 Rezepturen, Einflussgrößen und lernende Vorhersagemodelle

* 08:01 Ein Kuchenbeispiel und zwei verschiedene Arten von Erfolg

* 10:22 Zutaten verändern, Eigenschaften erhalten

* 12:44 Entwicklungsgeschwindigkeit und wirtschaftlicher Nutzen

* 15:10 Mit einem begrenzten Proof of Concept anfangen

* 16:31 Verbesserungen am bisherigen Prozess messen

* 18:02 Mensch, Maschine und die Idee einer neuen Schokolade

* 20:24 Erfahrungswissen in Entwicklungsdaten nutzbar machen

* 23:05 Geschmack, Messwerte und vergleichbare Bewertungen

* 24:59 Vom Laborfeedback zur Wiederbestellung

* 27:24 Vorhersagen in die bestehende Laborsoftware einbinden

* 29:47 Realistische Ziele und bessere Datenerfassung

* 32:19 Erwartungen an KI-Projekte und die Arbeit mit alten Daten

* 34:18 Neue Kundenwünsche und die Grenzen vergangener Erfahrungen

* 36:23 Was Unternehmen aus einem ersten Projekt lernen können

* 39:29 Entscheidungen und Zusammenarbeit im Projektteam

* 41:05 Modellverständnis, Partnerschaft und neue Vergütungsansätze

* 44:36 Gemeinsame Teams und langfristige Zusammenarbeit

* 46:14 Wenn erfahrene Entwickler das Unternehmen verlassen

* 48:49 Rückblick, offene Fragen und Ausblick

Liest du hier regelmäßig mit? Dann unterstütze unsere Arbeit mit einem bezahlten Abo.

Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.

Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.

Shownotes

* Thomas Keller auf LinkedIn: https://www.linkedin.com/in/thomas-keller-intercorp-ki-software-entwicklung-beratung/

* Riegg & Partner intercorp. GmbH: https://www.intercorp.de/

* KI in der Produktentwicklung: Ansatz und Leistungen von intercorp: https://www.intercorp.de/programmierung/ki-beratung-und-implementierung-aus-oberfranken/unsere-ki-leistungen-beratung-schulung-implementierung/implementierung/deep-learning

* intercorp auf LinkedIn: https://de.linkedin.com/company/riegg-partner-intercorp/

Was frühere Versuche über die nächste Rezeptur verraten können

Ein Entwickler soll Zucker in einer Rezeptur ersetzen. Der Kuchen soll weiterhin schmecken, seine Konsistenz behalten und sich auf den vorhandenen Anlagen herstellen lassen. Mit einer anderen Zutat verändern sich möglicherweise mehrere Eigenschaften zugleich. Das Team muss ausprobieren, messen und nacharbeiten.

Thomas Keller nutzt dieses Beispiel in unserem Gespräch, um die Aufgabe hinter einem Vorhersagemodell zu erklären. Er arbeitet bei Riegg & Partner intercorp an Projekten, die Daten aus früheren Entwicklungsversuchen für neue Entscheidungen nutzbar machen sollen. Im Podcast berichtet er von einem Lebensmittel- und einem Kunststoffhersteller. Die Kunden bleiben anonym.

Mich interessiert daran die Entscheidung vor dem nächsten Versuch: Welche Variante sollte ein Team zuerst erproben? Kann es aus früheren Ergebnissen eine bessere Reihenfolge ableiten? Und was muss es weiterhin selbst überprüfen?

Erst klären, welchen Erfolg das Modell einschätzen soll

Ich übertrage den Ansatz zunächst auf die Frage, ob ein neuer Kuchen am Markt erfolgreich sein wird. Thomas grenzt die Aufgabe ein. Seine Projekte beginnen bei technischen Kriterien. Lässt sich eine Rezeptur herstellen? Erreicht sie die gewünschte Qualität? Bleibt sie unter den vorgesehenen Bedingungen verwendbar?

Die spätere Nachfrage ist eine weitere Frage. Zwischen einem Versuch im Labor und einem Produkt, das Kunden wieder bestellen, liegen zusätzliche Schritte. Thomas beschreibt Rückmeldungen von Testern und Kunden. Erst später können Bestell- und Vertriebsdaten weitere Hinweise liefern. Dafür müssten die beteiligten Systeme und ihre Informationen zusammenpassen.

Diese Trennung ist für mich der Ausgangspunkt einer vernünftigen Beauftragung. Wenn ein Unternehmen weniger Laborversuche braucht, ist das ein möglicher Nutzen. Ob das Produkt anschließend Käufer findet, muss es gesondert untersuchen. Für ein erstes Projekt lässt sich deshalb eine begrenzte technische Frage wählen, deren Ergebnis die Entwickler beurteilen können.

Thomas beschreibt zwei Einsatzmöglichkeiten: Ein Modell kann Vorschläge für eine Rezeptur unterstützen oder vorhandene Ideen bewerten. In beiden Fällen soll es frühere Versuche als zusätzliche Orientierung nutzen. Der nächste praktische Test bleibt erforderlich.

Auch ein misslungener Versuch muss verständlich dokumentiert sein

In den Entwicklungsdaten findet Thomas eine Spur menschlicher Erfahrung. Welche Zutat hat ein Mitarbeiter verändert? Welchen Prozesswert hat er gewählt? Wie hat das Team das Ergebnis bewertet? Wer über Jahre Produkte entwickelt, hinterlässt in diesen Entscheidungen Informationen, die auch Kollegen helfen könnten.

Damit ein Modell diese Daten nutzen kann, müssen Anforderung, Zusammensetzung und Ergebnis zusammengehören. Eine Bemerkung wie „zu weich“ lässt viele Fragen offen. Im Gespräch beschreibt Thomas Bewertungsskalen, mit denen Entwickler genauer festhalten, wie stark ein Ergebnis vom Ziel abweicht.

Bei Lebensmitteln spielt außerdem die sensorische Beurteilung eine Rolle. Thomas erzählt von Teams, die sich auf eine gemeinsame Bewertung verständigen. Das beschreibt die Praxis dieser Fälle. Es ersetzt keine allgemeine Prüfung, wie verlässlich unterschiedliche Personen denselben Versuch beurteilen.

Für das nächste Projekt würde ich mir deshalb einige vorhandene Versuchseinträge zeigen lassen. Kann jemand daraus nachvollziehen, was das Team erreichen wollte, was es tatsächlich ausprobiert hat und woran der Versuch scheiterte? Wenn diese Verbindung fehlt, beginnt die Arbeit bei der Erfassung. Thomas berichtet, dass solche Verbesserungen bereits während der ersten Workshops entstehen können.

Der Vergleich mit dem bisherigen Prozess entscheidet über den Nutzen

Thomas argumentiert, dass schon wenige vermiedene Versuche wirtschaftlich relevant sein können. Wie viel das ausmacht, hängt von Material, Personal, Anlagenbelegung und der Zahl der Entwicklungen ab. Seine Zahlen im Gespräch illustrieren diesen Gedanken. Wir legen damit keine überprüfte Erfolgsrechnung der beiden Kundenprojekte vor.

Ein Unternehmen sollte vor einem Test festhalten, wie es die entsprechende Aufgabe bisher löst. Wie viele Versuche benötigt es? Welche Qualität muss es erreichen? Welche Kosten entstehen dafür? Anschließend lässt sich prüfen, ob die Unterstützung durch ein Modell den Ablauf verbessert.

Zur Rechnung gehören auch Datenaufbereitung, Integration und laufende Betreuung. Ein schneller Vorschlag allein genügt als Maßstab nicht. Die Entwickler müssen damit arbeiten können und das Ergebnis anschließend praktisch überprüfen.

Thomas legt deshalb Wert auf die Einbindung in die vorhandene Laborsoftware. Die Mitarbeiter sollen Vorhersagen dort erhalten, wo sie bereits arbeiten. Wenn eine zusätzliche Anwendung viele Umwege verlangt, kann sie im Alltag ungenutzt bleiben. Der Zugang zum Modell ist damit selbst ein Teil des Projekts.

Offen bleiben im Gespräch konkrete Angaben zur Prognosegüte der beiden Vorhaben: Welche neuen Fälle wurden geprüft? Wie häufig lag das Modell falsch? Wie viel Aufwand fiel insgesamt an? Für eine Inv…

Get full access to VENTURE AI STACK at www.ventureaistack.com/subscribe
48 Minuten
Wer weiß in deinem Unternehmen, welche KI-Agenten bereits arbeiten? Anna Kopp und Norman Müller sprechen in LEADERS IN LEATHER über die Fragen hinter der KI-Einführung: Zuständigkeiten, Datenqualität, Kosten und den laufenden Betrieb. Anna bringt Erfahrungen aus Microsofts eigener IT und Gesprächen nach ihren Vorträgen mit. Gemeinsam schauen wir auf Schatten-KI, die Rolle der Geschäftsführung und die Frage, warum eine Richtlinie allein im Arbeitsalltag wenig verändert.

Kapitel

* 00:00 Willkommen zurück bei LEADERS IN LEATHER

* 01:28 Microsoft als eigener Kunde: Was Unternehmen von Anna wissen wollen

* 04:35 Die Fragen nach der Keynote

* 07:01 KI-Kosten, Governance und der Wunsch nach Überblick

* 08:29 Ruhestand, Fachkräfte und die Arbeit, die bleibt

* 10:22 Datenqualität und die Altlasten der Digitalisierung

* 13:25 Wie sich die Rolle des CIO verändert hat

* 16:07 Die Vasa als Bild für gescheiterte Projekte

* 18:01 Wer trägt die Verantwortung für KI?

* 18:42 Viele Tools, viele Agenten und fehlende Dokumentation

* 21:46 Agenten erfassen, Verantwortliche benennen und Altlasten prüfen

* 24:29 Wenn die Geschäftsführung von der KI-Nutzung nichts weiß

* 26:16 Innovation sichtbar machen und Schatten-KI erkennen

* 27:59 Warum Beschäftigte auf private KI ausweichen

* 29:14 Work Trend Index und die Lücke zwischen Nutzung und Strategie

* 32:04 Vertrauliche Produktinformationen und fehlendes Grundwissen

* 34:24 Mitarbeiterbewertungen, Mitbestimmung und menschliches Urteilsvermögen

* 36:22 Richtlinien, Lernangebote und Verantwortung im Alltag

* 39:44 Cybersicherheit als Aufgabe der Unternehmensführung

* 43:59 Cloud, eigene Infrastruktur und Sicherheitskompetenz

* 46:36 Ausblick und Verabschiedung

Liest du hier regelmäßig mit? Dann unterstütze unsere Arbeit mit einem bezahlten Abo.

Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.

Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.

Shownotes

* Anna Kopp auf LinkedIn: https://www.linkedin.com/in/koppanna/

* CIO Magazin auf LinkedIn: https://de.linkedin.com/posts/cio-magazin_cio-des-jahres-2026-activity-7515013798437728256-aKDU

* CIO des Jahres: Projekte und Hintergründe: https://www.cio.de/cio-des-jahres/

* CIONET Germany: https://www.cionet.com/cionet-germany

* CIDO Women: Female Leadership Circle bei CIONET: https://www.cionet.com/de/cido-women-cionet-germany

* Microsoft und LinkedIn: Work Trend Index 2024: https://www.microsoft.com/en-us/worklab/work-trend-index/ai-at-work-is-here-now-comes-the-hard-part

* Microsoft Agent 365: Herstellerdokumentation: https://learn.microsoft.com/microsoft-agent-365/overview

* Microsoft Secure Future Initiative: https://www.microsoft.com/en-us/trust-center/security/secure-future-initiative

* Datennutzung bei Microsoft 365 Copilot: Herstellerdokumentation: https://learn.microsoft.com/en-us/microsoft-365/copilot/microsoft-365-copilot-privacy

Wer weiß, welche Agenten im Unternehmen arbeiten?

Anna bekommt eine Frage gestellt, die zunächst einfach klingt: Wie viele KI-Agenten hast du in Deutschland? Sie muss es herausfinden. Denn ein Team kann einen nützlichen Helfer bauen und im Alltag verwenden, ohne die IT-Leitung darüber zu informieren. Für die Beteiligten funktioniert der Ablauf. Für die Organisation fehlt womöglich der Überblick.

Diese Geschichte bleibt bei mir hängen. Sie passt zu Begegnungen, die ich selbst mit Unternehmen habe. In einem Gespräch interessiert sich die Geschäftsführung für den Einstieg in KI. Beim nächsten Termin stellt sich heraus, dass Mitarbeiter längst eigene Anwendungen nutzen. Die Führung wusste davon nichts.

Mit meiner Co-Host Anna Kopp spreche ich in LEADERS IN LEATHER darüber, was zwischen diesen beiden Ebenen fehlt. Anna bringt langjährige Erfahrung aus Microsofts IT mit. Sie erlebt bei Kundenterminen und nach Vorträgen, welche Fragen Unternehmen stellen. Ihre Beispiele geben Einblick in diese Gespräche. Sie liefern keine allgemeine Bestandsaufnahme aller Betriebe.

Eine gute Idee braucht jemanden, der sie weiter betreut

Ein Mitarbeiter automatisiert eine Aufgabe. Das Team spart sich einen lästigen Arbeitsschritt und verwendet den Agenten immer häufiger. Irgendwann ist der Erbauer im Urlaub oder verlässt das Unternehmen. Dann fällt eine Verbindung aus. Wer weiß jetzt, wie der Ablauf entstanden ist und welche Daten er benötigt?

Anna erinnert die Entwicklung an Excel-Makros. Menschen bauten damit Anwendungen, auf die ihre Kollegen sich verließen. Mit den Jahren konnte daraus eine Infrastruktur entstehen, die außerhalb der vorgesehenen Betreuung lag. Einen solchen Ablauf später zu ersetzen, verlangt mehr Arbeit, als die ursprüngliche kleine Lösung vermuten ließ.

Bei KI-Agenten stellt sich die Frage nach dem Betrieb erneut. Wer ist verantwortlich? Wer darf Einstellungen verändern? Welche Schnittstellen müssen funktionieren? Wer überprüft, ob der Agent überhaupt noch gebraucht wird? Anna beschreibt, wie Microsoft mit Bestandsübersichten und benannten Verantwortlichen darauf reagiert. Im Gespräch nennt sie Agent 365 als Werkzeug für diese Verwaltung.

Für mich ist daran die organisatorische Aufgabe entscheidend. Ein Unternehmen braucht einen Weg, solche Anwendungen zu erfassen und über ihre weitere Nutzung zu entscheiden. Welches Produkt dafür passt, muss es anhand seiner eigenen Umgebung prüfen.

Die Geschäftsführung muss erfahren, woran ihre Teams arbeiten

Anna fragt, wie Informationen im Unternehmen fließen. Wenn die Führung nur Vorgaben nach unten schickt, erfährt sie wenig darüber, was Menschen bereits ausprobieren. In regelmäßigen Gesprächen könnte sie erkennen, welche Aufgaben die Teams lösen und wo sie auf Schwierigkeiten stoßen.

Sie nennt eine Innovation Hour als Beispiel: Beschäftigte können eigene Projekte vorstellen und der Geschäftsführung zeigen, was sie entwickelt haben. Das macht Fähigkeiten sichtbar, die im Tagesgeschäft leicht übersehen werden. Zugleich entsteht eine Gelegenheit, nach Datenzugriffen, Betreuung und Nutzen zu fragen.

Im Gespräch taucht auch der Chief AI Officer auf. Anna will wissen, wer die KI-Transformation verantwortet und die verschiedenen Arbeitsstränge zusammenhält. Wir entwickeln in dieser Folge kein vollständiges Stellenprofil. Die Frage nach einer verbindlichen Zuständigkeit zieht sich aber durch unsere Beispiele.

Gerade ein mittelständisches Unternehmen muss klären, wer Entscheidungen über Fachbereiche hinweg treffen kann. Welche Anwendung erhält Unterstützung? Welche muss jemand überarbeiten? Wer bekommt Zeit für die Betreuung? Ein neuer Titel beantwortet diese Fragen noch nicht. Die Geschäftsführung muss die Aufgabe mit den beteiligten Menschen besprechen und im Alltag ermöglichen.

Gute Daten und brauchbare Werkzeuge gehören zum Anfang

Anna erzählt von einem Datenfeld, das Kollegen für einen Zweck nutzten, für den es ursprünglich nicht vorgesehen war. Bei einer späteren Umstellung verschwand es. Die Informationen ließen sich ihrer Schilderung nach nicht wiederherstellen. Für die Menschen, die damit arbeiteten, war das Feld relevant. Im Migrationsprozess hatte offenbar niemand diese Bedeutung erkannt.

Die Geschichte macht verständlich, warum eine KI-Einführung Arbeit an den bestehenden Daten verlangt. Wer nutzt welche Information? Was bedeutet ein Eintrag? Welche Historie muss erhalten bleiben? Diese Fragen lassen sich nicht allein durch den Kauf eines weiteren Werkzeugs beantworten.

Gleichzeitig müssen Beschäftigte ihre Aufgaben mit den freigegebenen Mitteln erledigen können. Ich erzähle von einem Vorstandsprotokoll, das bis zum nächsten Morgen zusammengefasst sein soll. Der Mitarbeiter verwendet dafür seine private KI. Die vertraulichen Unterlagen verlassen die vorgesehene Arbeitsumgebung.

Anna greift das als Beispiel für Schatten-KI auf. Die Führung sollte wissen, welche Arbei…

Get full access to VENTURE AI STACK at www.ventureaistack.com/subscribe
1 Stunde 1 Minute
Wenn Beschäftigte vertrauliche Dokumente in private KI-Tools laden, beginnt das Problem oft schon bei den Arbeitsbedingungen. Norman Müller spricht mit Marvin Gatermann, Mitgründer und Geschäftsführer der DAFI Deutschen Akademie für Informationssicherheit, über Schatten-KI, unübersichtliche Tool-Landschaften und die Verantwortung von Führungskräften. Es geht um Sicherheitslücken beim Vibe Coding, Lernen an eigenen Praxisfällen und die Frage, wie Unternehmen KI sinnvoll einsetzen, ohne den Überblick über Daten und Prozesse zu verlieren.

Kapitel

* 00:00 Einstieg: KI, Unternehmensdaten und Verantwortung

* 01:20 Marvins Weg zur Deutschen Akademie für Informationssicherheit

* 07:20 Wie gut sind Unternehmen auf KI-Risiken vorbereitet?

* 11:15 Vibe Coding und die übersehene Sicherheit

* 15:54 Warum Cybersicherheit auch Investoren betrifft

* 17:15 Weiterbildung an eigenen Praxisfällen

* 21:17 Wenn jede Abteilung andere KI-Tools nutzt

* 26:16 Systemausfälle und ihre Folgen im Arbeitsalltag

* 28:07 Vorsorge, wirtschaftliche Risiken und Handlungsdruck

* 32:21 Phishing, Deepfakes und kleine Unternehmen

* 35:17 Sicherheitsnachweise als Voraussetzung für Geschäft

* 40:39 Schatten-KI und vertrauliche Unternehmensdaten

* 45:28 Lernräume und die Grenzen von Richtlinien

* 49:06 Ein Vorstandsprotokoll landet in einer privaten KI

* 51:14 Verantwortung der Geschäftsleitung und erste Handlungsschritte

* 55:43 Wann externe Unterstützung helfen kann

* 59:14 Kontakt, Ausblick und Marvins Wunsch für die Welt

Liest du hier regelmäßig mit? Dann unterstütze unsere Arbeit mit einem bezahlten Abo.

Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.

Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.

Shownotes

* Marvin Gatermann auf LinkedIn: https://de.linkedin.com/in/9316

* DAFI Deutsche Akademie für Informationssicherheit: https://dafi-akademie.de/

* Agentic AI & AI Security Practitioner: https://dafi-akademie.de/weiterbildungen/ai-security-practitioner

* KI-Manager mit Schwerpunkten Compliance und Cybersicherheit: https://dafi-akademie.de/business/ki-management-b2b

* Weiterbildungsangebote in der VENTURE AI ACADEMY: https://venture-ai-germany.org/academy/

* Kontakt zur DAFI für Fragen zu Weiterbildung und Unterstützung: https://dafi-akademie.de/kontakt

Transparenz: Der Bundesverband für KI-Transformation e.V. und die DAFI arbeiten im Bildungsbereich zusammen. Diese Zusammenarbeit gehört zum Kontext der Folge. Die verlinkten Kursseiten enthalten die Angaben des Anbieters; sie sind keine unabhängige Bewertung der Angebote.

Das Vorstandsprotokoll in der privaten KI

Um 19 Uhr bekommt ein Vorstandsassistent ein Protokoll. Bis sieben Uhr am nächsten Morgen soll die Zusammenfassung fertig sein. Er nimmt die Unterlagen mit nach Hause und lässt seine private KI arbeiten. Die Arbeit liegt pünktlich vor. Vertrauliche Informationen haben dabei das Unternehmen verlassen.

Ich erzähle Marvin Gatermann dieses Beispiel im Gespräch, weil mich daran die Situation hinter der Entscheidung interessiert. Ein Vorgesetzter verlangt ein Ergebnis, für das der Mitarbeiter mit seinen eigenen Werkzeugen schneller einen Weg findet. Das Unternehmen hat ihm dafür offenbar keine passende Arbeitsumgebung bereitgestellt. Wer den Vorgang verstehen will, muss sich deshalb auch ansehen, welche Erwartungen die Führung setzt und welche Mittel sie ihren Beschäftigten gibt.

Marvin hat die DAFI Deutsche Akademie für Informationssicherheit mitgegründet und führt sie als Geschäftsführer. Als Wirtschaftspsychologe beschäftigt er sich mit Lernen und Veränderung. In unserem Gespräch verbindet er diese Perspektive mit der Frage, wie Menschen KI sicher im Berufsalltag einsetzen können.

Wenn niemand mehr die eigenen Prozesse überblickt

In einer Abteilung arbeitet das Team mit Copilot. Eine andere probiert Claude aus. Anderswo verbindet jemand Anwendungen über einen Automatisierungsdienst. Jede Entscheidung kann für die jeweilige Aufgabe sinnvoll erscheinen. Die Geschäftsführung muss trotzdem verstehen können, welche Daten durch diese Systeme fließen, wer Zugriff hat und wer einen Ablauf betreut.

Marvin beschreibt, wie Unternehmen diesen Überblick verlieren können. Ein Mitarbeiter richtet eine Automatisierung ein, später verlässt er den Betrieb. Irgendwann funktioniert der Prozess nicht mehr. Die Kollegen müssen zunächst herausfinden, wo er überhaupt liegt. Wer in dieser Situation auf eine wichtige Information angewiesen ist, erlebt ein Problem der Verfügbarkeit.

Damit bekommt Informationssicherheit eine konkrete Bedeutung: Kann mein Team seine Arbeit erledigen? Erreichen wir die Daten, die wir brauchen? Wissen wir, wen wir bei einer Störung ansprechen? Im Gespräch erinnern wir an den CrowdStrike-Ausfall als Beispiel dafür, wie stark Unternehmen von funktionierenden Systemen abhängen. Ein Ausfall braucht keinen Angreifer, um den Arbeitsalltag zu unterbrechen.

Für mich gehört diese Perspektive auch zur Investitionsentscheidung. Wenn ich ein Unternehmen betrachte, will ich verstehen, welche Risiken ich mitfinanziere und wie die Verantwortlichen damit umgehen. Ein funktionierender Prototyp beantwortet diese Fragen noch nicht.

Welche Sicherheit ein selbst gebautes Tool braucht

Marvin erzählt von Unternehmern, die mit KI eigene Anwendungen bauen und die Geschwindigkeit ihrer Entwicklung feiern. Bei einem selbst gebauten CRM fragt er nach dem Schutz der Kundendaten. Die erste Antwort verweist auf die DSGVO. Seine Nachfrage zielt auf die technische Umsetzung: Wie verhindern die Verantwortlichen unberechtigte Zugriffe und den Abfluss von Daten?

Diese Unterscheidung hilft auch ohne Fachwissen bei der nächsten Nachfrage. Wer einen Dienst einkauft oder selbst entwickeln lässt, sollte sich erklären lassen, wie die Beteiligten seine konkreten Daten schützen. Ein pauschaler Verweis auf Regelkonformität reicht als Erklärung dafür nicht aus. Zugleich umfasst Datenschutz auch Anforderungen an die Sicherheit der Verarbeitung. Beides lässt sich im Betrieb deshalb nicht sauber voneinander abkoppeln.

Beim Vibe Coding nennt Marvin öffentlich gewordene Zugangsschlüssel und unzureichend geschützte Schnittstellen als mögliche Risiken. Wir sprechen über Fehlerquellen, die bei schneller Entwicklung Aufmerksamkeit brauchen. Aus dem Gespräch folgt keine pauschale Bewertung aller Anwendungen, die Menschen mit KI erstellen. Es folgt die Frage, wer die fertige Anwendung fachlich prüfen und anschließend betreuen kann.

Beschäftigte brauchen brauchbare Werkzeuge und Übung

Bei Schatten-KI geht es um Beschäftigte, die Systeme außerhalb der vorgesehenen Unternehmensumgebung nutzen. Marvin hält das für ein erhebliches Risiko. Wie häufig es vorkommt, beurteilt er im Gespräch aus seiner Erfahrung. Eine repräsentative Erhebung legen wir in dieser Folge dazu nicht vor.

Sein Vorschlag setzt an zwei Stellen an: Unternehmen sollten geeignete Werkzeuge bereitstellen und ihre Beschäftigten im Umgang damit qualifizieren. Menschen brauchen ein Verständnis dafür, welche Informationen sie verarbeiten dürfen und wann sie Unterstützung holen sollten. Sie müssen zugleich ihre eigentliche Arbeit mit den erlaubten Mitteln erledigen können.

Wir sprechen deshalb über geschützte Lernräume. Dort können Teams eine Aufgabe ausprobieren, ohne sofort auf sämtliche Unternehmensdaten zuzugreifen. In der praktischen Arbeit merken sie, welche Fragen offenbleiben. Welche Eingabe enthält vertrauliche Angaben? Wer kontrolliert ein Ergebnis? Was passiert, wenn ein Ablauf fehlschlägt?

Marvin beschreibt diesen Praxisbezug auch als Anspruch an seine Weiterbildungen. Für die Auswahl eines Lehrgangs würde ich deshalb fragen, welche eigene Aufgabe jemand dort bearbeiten kann und wie er Rückmeldung zu seiner Lösung bekommt. Das lässt sich konkreter beu…

Get full access to VENTURE AI STACK at www.ventureaistack.com/subscribe
1 Stunde 2 Minuten
Was passiert mit unserem Selbstbild, wenn Maschinen auch die Arbeit übernehmen können, auf die wir stolz sind? Norman Müller spricht mit Prof. Dr. Gunter Dueck, Mathematiker, Informatiker und ehemaligem Chief Technology Officer von IBM Deutschland, über sein neues Buch „Die neue Krone der Schöpfung“. Gunter entwickelt darin eine Zukunftsvision humanoider Roboter und fragt, wie viel von unserem Arbeitsverhalten wir schon heute nach festen Vorgaben ausrichten.

Im Gespräch geht es um mögliche Unterstützung im Alter, Roboterfähigkeiten zum Nachladen und Deutschlands Rolle zwischen Zulieferindustrie und eigenen Produkten. Gunter erzählt außerdem, wie er selbst Veränderungen im Geschäft mit Büchern und Vorträgen erlebt. Wir diskutieren, welche Aufgaben Menschen künftig übernehmen könnten und weshalb ein technischer Fortschritt allein noch keine Antwort auf die berufliche Zukunft jedes Einzelnen gibt.

* 00:00 Gunter Dueck und die neue Krone der Schöpfung

* 01:25 KI als nächste Kränkung unseres Selbstbilds

* 03:33 Teamfähigkeit, Kreativität und die Grenzen heutiger KI

* 07:20 Welche Aufgaben bleiben uns Menschen?

* 08:48 Der Funktionsmensch: Arbeit nach Anreizen und Vorgaben

* 15:38 Deutschlands Chance in der humanoiden Robotik

* 16:58 NEURA Robotics und die Idee nachladbarer Fähigkeiten

* 19:30 Roboterhände und der Preis deutscher Perfektion

* 24:06 Warum ein Haushalt so schwer zu automatisieren ist

* 25:11 Roboter als Begleiter im Alter

* 27:34 Selbstständigkeit, Einsamkeit und Beziehungen zu Maschinen

* 30:28 Uncanny Valley: Wie menschlich sollen Roboter aussehen?

* 33:41 Sicherheit und kulturelle Unterschiede im Umgang mit Robotern

* 35:08 Photonische Chips und die Frage nach marktfähigen Produkten

* 38:53 Was Autoindustrie und Robotik verbindet

* 40:33 Entscheidungen, Kooperationen und Umsetzungstempo

* 43:14 Xiaomi als Beispiel für industrielle Geschwindigkeit

* 47:11 Wann Menschen einer neuen Technik vertrauen

* 50:26 Konkrete Anwendungen statt pauschaler Zukunftsurteile

* 52:43 Wie Gunter Veränderungen bei Vorträgen und Büchern erlebt

* 55:17 Die Idee einer dirigierenden Rolle für Menschen

* 57:24 Pflege, Generationen und demografischer Wandel

* 01:01:04 Regeln für Roboter und das Buch zur Folge

Liest du hier regelmäßig mit? Dann unterstütze unsere Arbeit mit einem bezahlten Abo.

Wir haben die Paywalls abgeschafft. Jede Woche veröffentlichen wir neue Essays und Podcast-Folgen, auf die du kostenlos zugreifen kannst.

Wenn du unsere Arbeit unterstützen möchtest, freuen wir uns über ein bezahltes Abo. Damit kannst du auch an unseren Podcast Live-Talks teilnehmen, im Live-Chat mitdiskutieren und dich im Substack Community Chat austauschen. Zugleich hilfst du uns, weitere Essays zu schreiben und spannende Podcast-Gäste einzuladen.

Shownotes

Prof. Dr. Gunter Dueck ist Mathematiker, Informatiker und Autor. Als ehemaliger Chief Technology Officer von IBM Deutschland beschäftigt er sich mit technischen Veränderungen und ihren Folgen für Arbeit und Gesellschaft. Zu seinen Büchern gehören „Schwarmdumm“ und „Das Neue und seine Feinde“. In dieser Folge spricht er als Autor über die Überlegungen hinter seinem neuen Buch „Die neue Krone der Schöpfung“.

* Gunter auf LinkedIn https://www.linkedin.com/in/gunterdueck/

* Omnisophie: Gunters Website, Blog und weitere Bücher https://www.omnisophie.com/

* „Die neue Krone der Schöpfung“ beim Redline Verlag: Buchinformationen und Bestellung https://www.m-vg.de/redline/shop/article/25794-die-neue-krone-der-schoepfung/

* Daily Dueck 392: Buchteaser und frühe Gedankenskizze zum Buch. Hier nennt Gunter auch die Kontaktmöglichkeit für signierte Exemplare. https://www.omnisophie.com/die-neue-krone-der-schoepfung-humanoide-als-bessere-menschen-daily-dueck-392-oktober-2026/

* NEURA Robotics: im Gespräch angesprochener Robotikhersteller und Zugang zum Neuraverse https://neura-robotics.com/

* Unitree Robotics: im Gespräch genannte Roboter zum eigenen Anschauen

https://www.unitree.com/

* SCHUNK: im Gespräch angesprochene Greif- und Automatisierungstechnik https://schunk.com/de/de

Was wird aus unserer Arbeit, wenn Roboter mehr können?

Gunter erzählt von seinem Enkel. Zum sechsten Geburtstag fragt er ihn, ob er gern einen Roboter hätte. Die Antwort kommt ohne philosophischen Umweg: Er soll das Spielzimmer aufräumen. Ausgerechnet diese scheinbar kleine Aufgabe hält Gunter für schwierig. Zwischen Spielsachen, persönlichen Vorlieben und wechselnder Unordnung müsste die Maschine verstehen, was wohin gehört und was sie besser liegen lässt.

Die Geschichte passt zu unserem Gespräch. Wir wünschen uns einen Helfer, der uns Arbeit abnimmt. Sobald wir genauer hinsehen, müssen wir klären, welche Arbeit wir meinen und woran wir erkennen, dass die Maschine sie zuverlässig erledigt. Ein Kind möchte sein Zimmer aufgeräumt haben. Ein älterer Mensch braucht vielleicht jemanden, der ihn beim Einkaufen begleitet. Ein Unternehmen sucht eine Lösung für einen bestimmten Handgriff.

Prof. Dr. Gunter Dueck denkt diese Wünsche in seinem Buch „Die neue Krone der Schöpfung“ weiter. Seine Zukunftsvision fordert unser Selbstbild heraus: Wie reagieren wir, wenn Maschinen auch Fähigkeiten übernehmen, mit denen wir bisher unseren eigenen Wert begründet haben?

Der Funktionsmensch als Vorlage für die Maschine

Gunter führt einen Begriff ein, an dem ich hängen bleibe: den Funktionsmenschen. Er meint damit Menschen, deren Verhalten im Beruf durch Abläufe, Anreize und Erwartungen geprägt ist. Sie sollen freundlich auftreten, Aufgaben nach Vorgabe erledigen und sich im Team so verhalten, wie das Unternehmen es verlangt.

Seine These lautet, dass sich gerade solche ausdrücklich beschriebenen Verhaltensweisen als Vorlage für Maschinen eignen könnten. Wer von Beschäftigten vor allem erwartet, dass sie vorgegebene Schritte ausführen, muss damit rechnen, dass auch Maschinen für diese Schritte entwickelt werden. Gunter überträgt diesen Gedanken auf humanoide Roboter und auf das soziale Verhalten, das wir uns von ihnen wünschen könnten.

Das ist eine weitreichende Zukunftserwartung. Aus einem höflichen Dialog mit einem Sprachmodell folgt noch keine verlässliche Hilfe in einer Wohnung oder einem Pflegeheim. Im Gespräch interessiert mich aber auch die Frage an uns selbst: Welche Freiräume nutzen wir bei unserer Arbeit? Wo entscheiden wir, hinterfragen einen Ablauf oder übernehmen Verantwortung für etwas, das sich vorher niemand genau überlegt hat?

Wenn wir über menschliche Stärken sprechen, sollten wir an solchen konkreten Situationen ansetzen. Sonst erklären wir eine Fähigkeit zur letzten menschlichen Bastion und müssen unsere Behauptung nach dem nächsten technischen Fortschritt wieder zurücknehmen.

Hilfe im Alter braucht einen klaren Auftrag

Beim Thema Pflege wird die Diskussion greifbar. Gunter stellt sich einen Roboter vor, der Zeit für Menschen hat, an das Essen erinnert, ein Lied singt oder jemanden zu einem Spaziergang ermuntert. Er beschreibt mögliche Formen der Begleitung. Einen Menschen aus dem Bett zu heben ist eine andere Aufgabe, mit anderen körperlichen Anforderungen und Folgen bei einem Fehler.

Ich bringe die Vorstellung ein, mit Unterstützung länger in der eigenen Wohnung leben zu können. Gemeinsam einkaufen gehen, Einkäufe tragen lassen oder eine Erklärung wiederholen können, ohne sich für die erneute Nachfrage zu schämen: An solchen Beispielen lässt sich über einen möglichen Nutzen sprechen. Ob ein bestimmter Roboter das sicher und bezahlbar leisten kann, müsste man jeweils prüfen.

Gunter widerspricht auch der Vorstellung, ein Roboter müsse einem Menschen äußerlich möglichst nahekommen. Er spricht über das Uncanny Valley, also das Unbehagen, das eine beinahe menschliche Erscheinung auslösen kann. Vielleicht wäre uns ein erkennbarer Roboter oder eine freundlich gestaltete Figur angenehmer.

Für mich steckt darin eine Gestaltungsfrage: Wie soll sich die Unterstützung für den Menschen anfühlen, der sie tatsächlich nutzt? Ein Hersteller kann eine beeindruckende Maschine vorführen. Ob jemand mit ihr in seiner Wohnung leben möchte, erfahren wir erst, wenn wir seine Wünsche ernst neh…

Get full access to VENTURE AI STACK at www.ventureaistack.com/subscribe
In Podcasts werben
Schalte jetzt Werbung in Podcasts.

Über diesen Podcast

KI-Transformation ohne Filter. Norman Müller spricht mit führenden Köpfen über Chancen, Risiken und Innovationen. Kritisch, direkt, nah dran. www.ventureaistack.com
Podcast melden

„VENTURE AI PODCAST“

Worum geht es? Danach fragen wir noch nach dem Grund.

Abonnenten

Teilen

Mein Archiv

Deine Privatkopie der Folgen, die du nicht verlieren willst.

Podcast-Folgen verschwinden. Feeds werden auf die letzten Episoden gekürzt, Hoster räumen alte Dateien ab, Formate wechseln den Anbieter und lassen ihr Archiv zurück. Mit „Mein Archiv“ sichert podcast.de die Folgen deiner Podcasts für dich — angefangen bei den ältesten, denn die sind zuerst weg.

  • Deine gesicherten Folgen bleiben hörbar, auch wenn das Original offline geht.
  • Auch Folgen, die im heutigen Feed gar nicht mehr stehen — podcast.de kennt sie noch.
  • Herunterladen bleibt möglich, solange die Folge beim Podcaster liegt. Der zählt seine Abrufe wie bisher.
Startet bald

Sei beim Start von Mein Archiv dabei

Mein Archiv ist fast fertig. Trag dich ein, dann bekommst du eine E-Mail, sobald es losgeht – und bist von Anfang an dabei. Wir schreiben dir nur zum Start, keine Werbung, keine Weitergabe deiner Daten.

Du bekommst zuerst eine Bestätigungsmail. Abmelden geht jederzeit. Datenschutz