Mr. CISO & Mr. AI im Gespräch

KI kann Code schreiben – aber wer trägt die Verantwortung, wenn etwas schiefgeht? Mr. AI und Mr. CISO diskutieren, wie KI-gestützte Softwareentwicklung heute in der Praxis aussieht: von der Spezifikation über die Code-Generierung bis zur Qualitätskontrolle. Mr. AI erzählt, wie er mit VS Code und GitHub Copilot einen Prototyp in einem Bruchteil der bisherigen Zeit erstellt – und warum trotzdem Fachwissen und Kontrolle unverzichtbar bleiben. Mr. CISO beleuchtet die Sicherheitsrisiken: manipulierte Libraries in der Software-Lieferkette, Prompt Injection via Abhängigkeiten, schlechte Trainingsdaten aus öffentlichen Repositories und die Gefahr, dass Fehler mit der Entwicklungsgeschwindigkeit genauso schnell skalieren wie Erfolge. Das Fazit der beiden: KI beschleunigt enorm - aber Anforderungsanalyse, Shift-Left-Security und die Verantwortung für den fertigen Code bleiben beim Menschen.

Von wem möchtest du abhängig sein - und hast du das bewusst entschieden? Mr. AI und Mr. CISO nehmen das Thema digitale Souveränität nüchtern unter die Lupe: nicht als politische Debatte, sondern als konkrete Risikobetrachtung für Unternehmen. Anhand der klassischen CIA-Triade der Informationssicherheit – Vertraulichkeit, Integrität und Verfügbarkeit – zeigen sie, wo Abhängigkeiten von grossen KI-Anbietern wie OpenAI oder Microsoft tatsächlich zum Problem werden können. Welche Alternativen gibt es? Vom Schweizer Modell Apertus über lokale Lösungen wie LM Studio bis hin zu Schweizer KI-Hostern wie Swisscom oder Infomaniak – die beiden diskutieren Vor- und Nachteile jeder Option. Das Fazit: nicht mit teurer Eigeninfrastruktur starten, sondern mit einer sauberen Risikoanalyse, einfachen Anwendungsfällen und weniger sensitiven Daten – und dann schrittweise aufbauen. Souveränität beginnt mit dem bewussten Entscheid.

KI verspricht, manuelle Prozesse zu eliminieren - doch was passiert, wenn der AI-Agent einfach alles durchwinkt? Mr. AI und Mr. CISO diskutieren anhand eines konkreten Eingangsrechnungs-Workflows, wie AI-Enhanced Workflow Automation in der Praxis funktioniert. Sie zeigen, welche Tools – von N8N über Power Automate bis hin zu Crew AI – sich für den Einstieg eignen, wie man mit KI sogar den ersten Workflow-Code generiert und in ein bis zwei Stunden einen funktionierenden Prototyp baut. Gleichzeitig beleuchtet Mr. CISO die sicherheitstechnische Seite: Warum ist die Nicht-Determinisitik von KI ein fundamentales Problem in der Prozessautomatisierung? Was bedeutet Prompt Injection konkret – und wie schützt man sich? Und weshalb braucht es bei heiklen Entscheidungen nach wie vor einen «Human in the Loop»? Eine praxisnahe Episode für alle, die AI-Automation nicht nur einführen, sondern auch sicher betreiben wollen.

KI kann dir in der Informationssicherheit echte Vorteile bringen – aber nur, wenn du Datenklassifizierung und Verarbeitungsort im Griff hast. Dani Schacher und Tobias Kluge sprechen über Anomalie-Detection, Krisenkommunikation mit Large Language Modellen (LLMs) und die praktische Frage: Welche Daten dürfen in die Public Cloud, was muss in-house bleiben? Dazu der Reality-Check: Verbote führen oft zu Shadow IT und Shadow KI durch private Accounts.