KI liefert Antworten, schreibt Code und übernimmt immer mehr
Aufgaben. Je überzeugender die Ergebnisse werden, desto leichter
gerät eine entscheidende Frage aus dem Blick: Verstehen wir noch,
was die Systeme tun, und können wir erkennen, wenn sie
falschliegen?
In dieser Folge von „Cybersecurity ist Chefsache“ spricht Nico
Freitag mit Marco Eggerling über den Schritt vom Chatbot zur
agentischen KI, die Grenzen unseres Vertrauens und die Frage, wie
Unternehmen aus technischen Möglichkeiten tatsächlich einen
sinnvollen Nutzen ziehen können.
Marco ist erneut im Podcast zu Gast. Er bringt mehr als 25 Jahre
Erfahrung in IT und Informationssicherheit mit und berichtet von
seiner aktuellen Tätigkeit bei UiPath, wo er sich mit EMEA und
Asien beschäftigt. Im Mittelpunkt steht diesmal, wie
unterschiedliche Modelle, Agenten und bestehende
Automatisierungen zusammenarbeiten und welche Rolle der Mensch
dabei behält.
Zum Einstieg geht es um die Geschwindigkeit der Entwicklung und
den eigenen Umgang mit KI. Marco erzählt, wie er verschiedene
Modelle für unterschiedliche Aufgaben kombiniert und wie
selbstverständlich selbst Menschen ohne technischen Hintergrund
inzwischen mit Chatbots sprechen. Genau darin liegt aber auch
eine Herausforderung: Eine Antwort kann schlüssig und überzeugend
klingen und trotzdem falsch sein. Seine klare Aussage: KI ist
keine „Truth Engine“.
Im weiteren Gespräch wird es konkret: Was unterscheidet einen
Chatbot von einem Agenten, der tatsächlich Aufgaben ausführt?
Marco beschreibt das Zusammenspiel spezialisierter Agenten mit
dem Bild einer Fußballmannschaft. Nicht jeder muss alles können.
Entscheidend ist, dass Fähigkeiten, Aufgaben und Steuerung
zusammenpassen. An Beispielen aus der Prozessautomatisierung und
einer automatisch bestellten Pizza wird greifbar, was daraus
entstehen kann und welche Zugriffe dafür erforderlich sind.
Ein besonderer Schwerpunkt liegt auf Kosten und Abhängigkeiten.
Nico hinterfragt, wie selbstverständlich wir KI inzwischen nutzen
und was passieren würde, wenn ein genutztes Modell ausfällt,
nicht mehr verfügbar ist oder deutlich teurer wird. Marco
erläutert, wie die Orchestrierung verschiedener Modelle
Abhängigkeiten reduzieren kann. Beide diskutieren, weshalb ein
hoher Token-Verbrauch noch kein gutes Ergebnis bedeutet und warum
Unternehmen vom gewünschten Resultat aus denken sollten.
Auch beim Vibe Coding bleibt der Blick kritisch. Nur weil sich
Software schnell erzeugen lässt, sind Wartung, Verständnis und
Verantwortung nicht erledigt. Wer bestehende Unternehmenssoftware
nachbauen möchte, muss mehr berücksichtigen als den ersten
funktionierenden Prototyp. Ähnlich ist es beim Prompting: Viel
Kontext und lange Eingaben führen nicht automatisch zu besseren
Ergebnissen, können aber zusätzliche Kosten verursachen.
Zum Abschluss geht es um spezialisierte Modelle, den Einstieg in
KI, die Ausbildung von Nachwuchskräften und die Rolle der
Unternehmenskultur. Marco spricht sich dafür aus, die
Möglichkeiten aktiv zu erkunden und menschliches Urteilsvermögen
weiterzuentwickeln. Nico betont, warum Unternehmen einen
geregelten Umgang mit KI gemeinsam mit ihren Mitarbeitenden
gestalten sollten, bevor sich die Nutzung an ihnen vorbei
etabliert.
Im Gespräch geht es unter anderem um:
Warum überzeugend formulierte KI-Antworten nicht automatisch
richtig sind
Wie sich Chatbots und handelnde KI-Agenten unterscheiden
Welche Rolle spezialisierte Agenten, Orchestrierung und
menschliche Kontrolle spielen
Warum bestehende Automatisierungen auch in agentischen
Abläufen wertvoll bleiben
Wie ein Assistenzsystem eine Pizza passend zur Ankunft
bestellen könnte und welche Daten es dafür benötigt
Weshalb Unternehmen vom gewünschten Ergebnis aus planen
sollten
Warum möglichst viele verbrauchte Tokens kein sinnvolles
Erfolgsmaß sind
Wie unklare Prompts und unnötiger Kontext Kosten verursachen
können
Weshalb KI-generierter Code weiterhin Verständnis, Prüfung
und Wartung braucht
Welche Abhängigkeiten durch die Konzentration auf einzelne
Modelle und Anbieter entstehen
Wie lokale Modelle, Alternativen und Failover-Mechanismen in
die Überlegungen einfließen
Warum KI zugleich eine Chance für das Geschäft und eine
Aufgabe für das Risikomanagement ist
Wie Nico und Marco die Grenzen von Guardrails und die Nutzung
von KI auf Angriffs- und Verteidigungsseite diskutieren
Weshalb synthetische Inhalte neue Fragen an die
Verlässlichkeit von Wissen stellen
Warum Nachwuchsausbildung und menschliche Expertise weiterhin
gebraucht werden
Wie Unternehmen Mitarbeitende beim Einstieg begleiten können
Weshalb reine Verbote die Frage nach einem sinnvollen Umgang
mit Schatten-KI nicht lösen
Welche Entwicklung Marco bei spezialisierten Sprachmodellen
und den Kosten von KI erwartet
Der rote Faden der Folge: Der Wert von KI entsteht durch
sinnvolle Ergebnisse, nachvollziehbare Abläufe und einen
bewussten Umgang mit Risiken. Wer Agenten Aufgaben überträgt,
muss weiterhin verstehen, was sie tun dürfen, wie Ergebnisse
geprüft werden und welche Abhängigkeiten dabei entstehen.
Menschliches Urteil bleibt ein entscheidender Teil der Arbeit.
Eine Folge für Geschäftsführungen, CISOs, IT- und
Security-Verantwortliche, Verantwortliche für KI und
Automatisierung sowie alle, die KI-Agenten im Unternehmen
einsetzen und dabei Nutzen, Kosten und Kontrolle zusammenbringen
möchten.
____________________________________________
Mehr Informationen
Marco Eggerling - LinkedIn Profil
____________________________________________
Reinschauen lohnt sich!
Podcast - Cybersecurity ist Chefsache: @cybersec_ist_chefsache
Podcast - Cybersecurity shall be C-Level priority:
@cybersec_clevel_priority
Podcast - Die Zwei Auftrag: Cybersicherheit: @diezweicyber
Schließe dich uns an, um tiefer in die Welt der digitalen
Sicherheit einzutauchen.
____________________________________________
Du findest mich auf folgenden Social Media Kanälen:
Instagram: cybersec_ist_chefsache
TikTok: cybersec_ist_chefsache
LinkedIn - Nico: nicofreitag
LinkedIn - Ann-Katrin: annkatrin
Kontaktaufnahme - Podcast: Cybersecurity ist Chefsache
____________________________________________
Deine Reise in die Welt der Cyber Security startet hier – ich
freue uns darauf, mich mit dir zu vernetzen.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.