In dieser Folge besprechen wir „Souveräne KI. Strategie und Aufbau
der eigenen Open-Source-Infrastruktur“ von Ingmar Stapel. Das Buch
erklärt souveräne KI als eine Infrastruktur, die ein Unternehmen
selbst betreibt und kontrolliert – nicht lediglich als Nutzung
eines großen Anbieters in einem europäischen Rechenzentrum. Wir
sprechen darüber, wann sich der eigene Betrieb gegenüber Cloud- und
SaaS-Angeboten anbieten kann und welche Abwägungen dabei eine Rolle
spielen. Wir gehen die Themen des Buches durch: Planung, Hardware,
Architektur und Kosten sowie der Aufbau einer Testumgebung.
Außerdem behandeln wir Open-Source- und Open-Weights-Modelle,
Sprachmodelle und Chat-Oberflächen wie Open WebUI, AnythingLLM und
LibreChat. Weitere Inhalte sind Agentensysteme, RAG zur Arbeit mit
eigenen Daten, MCP zur Anbindung anderer IT-Systeme,
Automatisierung mit n8n, das Anpassen bestehender Modelle und die
Bildgenerierung mit ComfyUI. Wir heben besonders den
praxisorientierten Aufbau hervor: Das Buch bietet konkrete
Beispiele und Anleitungen, um eine eigene KI-Infrastruktur
einzurichten. Zugleich sprechen wir darüber, dass Kosten und
Hardwarepreise zeitabhängig sind und die Umsetzung Aufwand
erfordert. Das Buch kann auch Datenschutzbeauftragten und
Unternehmen dabei helfen, Möglichkeiten, Grenzen und Komplexität
lokaler KI besser einzuschätzen. Ein Kritikpunkt ist die knappe
rechtliche Einordnung. DSGVO und KI-Verordnung werden angesprochen,
aber nicht ausführlich behandelt. Eine lokal betriebene KI kann
bestimmte Fragen zur Datenübermittlung in Drittstaaten vermeiden,
macht ein System jedoch nicht automatisch rechtskonform. Pflichten
wie Rechtsgrundlage, Dokumentation, Information, Risikobewertung
und gegebenenfalls eine Datenschutzfolgenabschätzung bleiben
bestehen. Auch das Löschen von Daten, die in ein Modell
eingeflossen sind, ist ein komplexes Thema. Insgesamt bewerten wir
das Buch als hilfreiche, praxisnahe Einführung in die Möglichkeiten
souveräner KI und empfehlen es besonders für Leserinnen und Leser,
die verstehen möchten, was sich selbst betreiben lässt und welcher
Aufwand damit verbunden ist.
Kommentare (0)
Melde dich an, um einen Kommentar zu schreiben.