Lügt Claude? KI-Sicherheitstest & Inkling: Datensouveränität für den Mittelstand

Fünf Abteilungen, fünf verschiedene KI-Tools, sensible
Firmendaten über private Accounts – ein IT-Administrator
entdeckt das Chaos, und genau da beginnt die Ethik-Frage dieser
Folge.


Zwei Themen, die direkt in die Geschäftsführung gehören:



Sicherheitsrisiko externe KI: Ein aktueller
Test wirft Fragen auf, wie zuverlässig KI-Modelle ihre eigenen
Sicherheitsvorgaben tatsächlich befolgen – und was das für
Haftung und Governance im Unternehmen bedeutet.


️ Datensouveränität durch lokale KI: Thinking
Machines hat mit Inkling ein großes
Open-Weight-Modell veröffentlicht. Wir erklären, warum lokale
KI-Modelle die Kontrolle über Firmendaten zurück ins
Unternehmen holen – und welche neue Verantwortung damit
einhergeht.



Euer Takeaway: Blindes Vertrauen in die
moralische Ausrichtung externer KI-Tools ist ein Haftungsrisiko.
Lokale Modelle lösen das Kontrollproblem, verlangen aber klare
Verantwortlichkeiten in der eigenen IT.


Frage fürs Wochenende: Welche Aufgabe in eurem Unternehmen ist so
sensibel, dass sie niemals von einer externen KI ausgeführt
werden dürfte?


Kuratiert und eingeordnet von Arno Schimmelpfennig aus der
Normenpraxis.


Abonniert KI Ethik News für euer werktägliches Lagebild zu
verantwortungsvollem KI-Einsatz im Mittelstand.


Impressum


Angaben gemäß § 5 TMG i. V. m. § 18 Abs. 1 MStV:


Arno Schimmelpfennig


Amalienstraße 11, 96047 Bamberg


Kontakt
Telefon: 01722712600
E-Mail: [E-Mail-Adresse]
Web: ki-lernarchitekt.de


[Vertreten durch: ggf. Geschäftsführer/in]
[Umsatzsteuer-ID gemäß § 27a UStG, falls vorhanden]


Verantwortlich für den Inhalt nach § 18 Abs. 2
MStV
[Name, Anschrift wie oben]


Hinweis zu KI-generierten Inhalten (Art. 50 Verordnung
(EU) 2024/1689 – KI-Verordnung/AI Act)
Diese Podcast-Folge wird mithilfe KI-generierter synthetischer
Stimmen (Text-to-Speech) erstellt und vertont. Gemäß der
Transparenzpflicht aus Art. 50 KI-VO weisen wir darauf hin, dass
die Audioinhalte künstlich erzeugt bzw. bearbeitet wurden. Die
inhaltliche Einordnung stammt von [Arno Schimmelpfennig / Name]
auf Basis kuratierter externer Quellen. Trotz sorgfältiger
Prüfung können die KI-Stimmen und die automatisierte Aufbereitung
Fehler enthalten – für die inhaltliche Richtigkeit im Einzelfall
wird keine Gewähr übernommen.


Streitschlichtung
Die Europäische Kommission stellt eine Plattform zur
Online-Streitbeilegung (OS) bereit:
https://ec.europa.eu/consumers/odr/. Wir sind nicht verpflichtet
und nicht bereit, an einem Streitbeilegungsverfahren vor einer
Verbraucherschlichtungsstelle teilzunehmen.