KI - kurz und informativ, Klartext "to Go" in unter 5 Minuten Archiv

Kimi K3 von Moonshot AI ist gerade in aller Munde. Ein Open-Weight-Modell mit 2,8 Billionen Parametern, das mit den besten Modellen aus den USA mithalten will. Aber wie installiert man eigentlich ein solches Modell selbst?

In dieser Folge nehmen wir Kimi K3 als Aufhänger, um den kompletten Prozess zu erklären: Was unterscheidet ein Open-Weight-Modell von proprietären Systemen wie ChatGPT oder Claude? Warum könnt ihr Kimi K3 selbst trotz Quantisierung nicht auf eurem Laptop laufen lassen und welche kleineren, alltagstauglichen Modelle funktionieren stattdessen?

Ich erkläre euch Hugging Face als zentrale Anlaufstelle für Open-Weight-Modelle, erkläre die wichtigsten Dateiformate GGUF und Safetensors, und stellen die drei populärsten Tools für den lokalen Betrieb vor: Ollama, LM Studio und Open WebUI.

Diese Folge baut auf unseren vorherigen Episoden zu Quantisierung und Speicherarten (VRAM, RAM, Unified Memory) auf und liefert den praktischen Einstieg zum Selbermachen.

Themen: Kimi K3, Moonshot AI, Open-Weight-Modelle, Hugging Face, GGUF, Ollama, LM Studio, lokale LLMs, KI selbst hosten

Links:

- Erklärung GGUF: https://huggingface.co/docs/hub/gguf

- Erklärung Safe Tensors:

https://huggingface.co/docs/safetensors/index

- Kimi K3 auf Hugging Face: https://huggingface.co/moonshotai/Kimi-K3

- Open WebUI: https://docs.openwebui.com/

- Ollama: https://ollama.com/

- LM Studio: https://lmstudio.ai/

Sollte euer Unternehmen KI-Modelle selbst hosten oder aus der Cloud mieten. Und was hat der US Cloud Act damit zu tun?

In dieser Folge von "KI kurz und informativ" schliessen wir unsere Mini-Serie zu Hardware und Hosting von KI-Modellen ab. Wir vergleichen On-Premise-Betrieb und Cloud-Computing anhand der vier klassischen Abwägungspunkte: Kosten, Kontrolle, Skalierung und Beschaffung.

Ausserdem schauen wir uns an, warum ein Serverstandort in Frankfurt oder Amsterdam allein noch keine Garantie für europäisches Recht ist und was der US CLOUD Act damit zu tun hat. Neben den vier genannten Kriterien ist Datensouveränität ebenso eine zentrale Grösse, die sich schwer in Geld bemessen lässt.

Diese Folge baut auf unseren letzten beiden Episoden zu Quantisierung und Speicherarten (VRAM, RAM, Unified Memory).

Quellen:

- Microsoft kann keine Datensouveränität garantieren: https://www.forbes.com/sites/emmawoollacott/2025/07/22/microsoft-cant-keep-eu-data-safe-from-us-authorities/

- US Cloud Act: https://www.digital-chiefs.de/eu-tech-sovereignty-paket-cloud-souveraenitaet-vorstand-cloud-act-dach/

- Hyperscaler Marktanteile: https://www.itreseller.ch/Artikel/104615/Hyperscaler-Kapazitaet_hat_sich_mehr_als_vervierfacht.html (ältere Zahlen aus Jan. 2026)

Speicher ist nicht gleich Speicher. Wie viel Arbeitsspeicher braucht ein LLM wirklich? Warum reicht es nicht aus, einfach mehr "Speicher zu kaufen"?

In dieser Folge von "KI kurz und informativ" schauen wir uns die drei physischen Speicherebenen im PC oder Server an: VRAM (Grafikkarte), RAM (Arbeitsspeicher) und Massenspeicher (SSD/HDD). Ausserdem erklären wir, was Apple mit seinen M-Chips und dem sog. "Unified Memory" anders macht als klassiche Windows-PCs mit dedizierter Grafikkarte, warum die aktuellen RAM-Preissteigerungen direkt mit dem KI-Boom zusammenhängen, und wieso Kontextlänge (KV-Cache) und Nutzerzahl (Concurrency) den Speicherbedarf in der Praxis zusätzlich in die Höhe treiben.

Diese Folge baut auf unserer letzten Episode zu Quantisierung auf und bereitet den Boden für die nächste Folge: Cloud vs. On-Premise-Hosting von KI-Modellen aus Business-Sicht.

Quellen:

Apple M7 im Tapeout: https://www.heise.de/news/M-Chips-M7-mit-bis-zu-1-5-TByte-und-warum-Apple-den-M6-ueberspringt-11362052.html

Large Language Models (LLMs) wie GPT auf dem eigenen PC oder Smartphone laufen lassen? Ja, das geht!

Quantisierung ist eine Schlüsseltechnik, mit der das funktioniert. Damit können riesige KI-Modelle drastisch verkleinern lassen, ohne dabei komplett auf Qualität zu verzichten.

Du erfährst in der Folge:

Warum LLMs so viel Speicherplatz brauchen (und was FP32, FP16 und INT8 damit zu tun haben).

Wie Quantisierung den Speicherbedarf eines Modells

reduziert.

Was die Vor- und Nachteile sind und wie du dank Quantisierung, ein LLM theoretisch lokal auf deinem PC, Mac oder Home-Server betreiben könntest.

„Wissen ins Unternehmen bringen" ist schon die falsche Formulierung, denn Wissen ist kein Paket, das man einkauft und ins Regal stellt.

In dieser Folge geht es darum, wie ihr KI-Kompetenz wirklich intern aufbaut. Wir schauen uns die drei üblichen Wege an: Einkauf, Lernplattformen und die isolierte KI-Abteilung und warum sie für sich genommen selten reichen.

Wir schauen uns Ansatz gezielt an, erötern die Vor- und Nachteile und ich erkläre, was ich in der letzten Folge mit dem Sprichwort über den Fisch meinte.

("Gib einem Mann einen Fisch und er ernährt sich einen Tag. Zeig dem Mann wie man fischt und er ernährt sich sein Leben lang.")

Das heisst, dass ihr euch die Frage jedes Mal stellen solltet, wenn ihr externe Hilfe zu Rate zieht: Verkauft mir jemand gerade einen Fisch oder zeigt er mir das Fischen?

Quellen:

https://www.datacamp.com/blog/the-state-of-data-and-ai-literacy-in-2026-definitions-statistics-and-the-ai-skills-gap

Links:

Folge über KI-Jobrollen: https://open.spotify.com/episode/1f4cAqCJhRU1eT8CYxZ5cS?si=RkAdQfwZTdeTZxbASfaSEg

Letzte Folge über KI-Einführung im Unternehmen: https://open.spotify.com/episode/2ZAWIVLmuE0podQArCKwAo?si=mQpXtTAaShizR887T5n9hQ

Wie führt man KI im Unternehmen ein? Schaut man sich erst alle Use Cases an? Setzt man zuerst eine Governance auf oder kauft man Copilot-Lizenzen?

Wir analysieren heute, was bestehende Ansätze gut und nicht so gut machen, wie in der Vergangenheit transformative Technologien eingeführt wurden und schliessen daraus unsere Erkenntnisse.

Nach einer etwas längeren Herleitung bekommt ihr sieben Leitplanken zur Einführung von KI in Unternehmen. Das Ergebnis dürfte den ein oder anderen überraschen.

Schreibt gerne in die Kommentare, was eure Meinung dazu ist. Ich freue mich immer über eure Ansichten!

Ausgewählte Quellen:

https://www.weforum.org/stories/2019/04/the-latest-technology-isnt-enough-you-need-the-business-model-to-go-with-it/

https://writer.com/blog/enterprise-ai-adoption-2026/

https://bsykes.substack.com/p/the-state-of-ai-adoption-in-the-enterprise

Wie lernt ein neuronales Netz eigentlich aus seinen Fehlern? In dieser Folge von „KI – kurz und informativ" schauen wir uns das Perzeptron an, das erste und einfachste neuronale Netz der Welt. Wir erklären, was eine Loss Function (Verlustfunktion) ist, wie Backpropagation funktioniert und warum moderne KI-Modelle Milliarden von Parametern haben.

Wie immer an einem einfachen Beispiel erklärt, diesmal anhand vom Dart-Spielen.

Wenn ihr diese Folge inkl. dem ersten Teil zu neuronalen Netzen verstanden habt, seid ihr sehr gut aufgestellt, was die Grundlagen von Deep Learning angeht.

Teil 1: Einführung in Neuronale Netze: https://open.spotify.com/episode/0olv9oEjTD0MtPIue4BRtv?si=HYZatk6lSJGQ0NghUga8zA

Teil 2 zum EU AI Act. Nachdem wir in der letzten Folge geklärt haben, wer betroffen ist und welche Risikoklassen es gibt, geht es heute um die Pflichten, die bereits gelten, was ab August 2026 gelten wird und welche Strafen im Zweifelsfall drohen.

Drei Themen stehen im Mittelpunkt: die KI-Kompetenzpflicht, die schon seit Februar 2025 gilt und von den meisten noch nicht auf dem Schirm ist, die Transparenz- und Kennzeichnungspflichten, die in wenigen Wochen greifen und das Bussgeldsystem, das die DSGVO-Strafen deutlich übertrifft.

Fragen für diese Folge:

Dokumentiert ihr, wer im Unternehmen wie mit KI arbeitet und welche Schulungen stattgefunden haben?

Setzt ihr Chatbots oder generative KI im Kundenkontakt ein? Seid ihr auf die Kennzeichnungspflichten ab August 2026 vorbereitet?

Habt ihr ein KI-Inventar, respektive eine Liste aller eingesetzten Systeme mit grober Risikoeinschätzung?

Links:

EU AI Act - Was ist das und wen betrifft das? | Teil 1: https://open.spotify.com/episode/2PMaslOzW7gGOax1h6RErv?si=xxaLUD5NRdKHSrNHGiYKhQ

Der EU AI Act ist das erste KI-spezifische Gesetz weltweit, aber was bedeutet das konkret für euch?

Was steckt hinter der zentralen Idee des risikobasierten Ansatzes? Seid ihr Anbieter oder Betreiber eines KI-Systems und warum macht das einen grossen Unterschied? Und in welche Risikoklasse fällt euer System eigentlich?

Ich bin kein Jurist, das ist auch keine Rechtsberatung und soll euch einfach als Überblick dienen.

Fragen für diese Folge:

In welcher Rolle sitzt ihr: Anbieter oder Betreiber?

Welche eurer KI-Systeme könnten in den Hochrisiko-Bereich fallen? Wie sieht der Weg zu einem Hochrisiko-KI-System in der Praxis aus?

Nutzt ihr Open-Source-Modelle? Habt ihr geprüft, ob die Open-Source-Ausnahme wirklich greift?

Im zweiten Teil stellen wir dann die Fragen: Welche Pflichten gelten bereits heute, wie sieht der Zeitplan aus und was kostet euch Nichtbeachtung (Strafen)?

Weiterführende Links:

Vollständiger EU AI Act (offizieller Text): https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689

Anhang III – Hochrisiko-Systeme im Detail: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689#d1e38-206-1

AI Act Explorer und Compliance Checker (Englisch): https://artificialintelligenceact.eu/de/

KI regulieren, aber wie? In dieser Folge bekommt ihr einen kompakten Überblick über die regulatorische Landkarte in Europa: Was regelt die DSGVO, was der EU AI Act, was NIS2, DORA, der Cyber Resilience Act und der Data Act. Und was hat das alles mit KI zu tun?

Ihr erfahrt, warum es nicht reicht, bei KI nur auf den AI Act zu schauen und wann welches Regelwerk greift. Diese Folge ist eine Vorarbeit für deie nächste Folge, in der wir einen tieferen Einblick in den EU AI Act wagen wollen.

Fragen, die ihr euch nach der Folge stellen solltet:

- Welche der gennanten (und anderen) Regelwerke betreffen euer Unternehmen? Macht euch wirklich eine Liste zu euren Anwendungen, die KI beinhalten und ordnet sie den Regelwerken zu, um eine erste Übersicht zu bekommen.

- Wie gut seid ihr bereits bei DSGVO und AI Act aufgestellt?

Anmerkungen:

Keine Rechtsberatung, keine Garantie auf Richtigkeit. Informationen in dieser Folge können nach einiger Zeit veraltet sein.

Rat und Parlament haben sich am 7. Mai 2026 politisch auf den Digital Omnibus geeinigt, anders als in der Folge angesprochen. Hier dazu eine Quelle: https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/

Generelle Infos zum Digital Omnibus: https://digital-strategy.ec.europa.eu/en/library/digital-omnibus-ai-regulation-proposal

Was sind Reasoning-Modelle und warum sind sie klassichen Large Language Models (LLMs) oft überlegen?

Das ist die Kernfrage der heutigen Folge. Im Mittelpunkt steht die sogenannte Chain of Thought, die interne Gedankenkette, die Sprachmodelle nutzen, um Schritt für Schritt zu einer Antwort zu gelangen.

Inspiriert von Daniel Kahnemans „Schnelles Denken, langsames Denken" zeigen wir, warum das Prinzip von System 1 und System 2 irgendwie auch für künstliche Intelligenz gilt.

Themen dieser Folge:

Was ist Chain of Thought und warum macht es Reasoning Modelle besser?

Warum sind Reasoning Modelle teurer und wann lohnt sich der Einsatz?

Overthinking und Selbstüberschätzung: Schwächen, die auch KI kennt

Frühere Folgen, die ich empfehle anzuhören, damit ihr das Thema gut versteht: Transformer, Tokens, Embeddings, RAG, Fine-Tuning

Buch von Daniel Kahneman:

Kahneman, D. (2011). Thinking, fast and slow. Farrar, Straus and Giroux.

NVIDIA-CEO Jensen Huang nennt KI einen "Five-Layer-Cake", einen Kuchen mit fünf Schichten: Energie, Chips, Recheninfrastruktur, Modelle und Applikationen. Doch was bedeutet dieses mentale Modell für europäische Unternehmen, Manager und Entscheider? In dieser Folge von "KI – kurz und informativ" diskutieren wir das Five-Layer-Modell, ordnen Huangs Aussagen zu Jobs, nationaler KI-Infrastruktur und Europas Chancen kritisch ein und zeigen anhand von Siemens, wie europäische Industrie KI nicht nur nutzt, sondern selbst gestaltet.

Themen dieser Folge:

Das Five-Layer-Modell von NVIDIA und Jensen Huang einfach erklärt

Warum Energie der limitierende Faktor jeder KI-Strategie ist

Was Huangs These zu KI und Jobs für den europäischen Arbeitsmarkt bedeutet

Siemens Industrial Foundation Model: Wie Domain-Wissen plus KI funktionieren kann

Drei Fragen, die sich jeder Entscheider jetzt stellen sollte

Drei Leitfragen für euer Unternehmen:

Was ist euer Domain-Wissen, das noch kein Modell hat?

Könnt ihr euch tiefer im Stack positionieren, also vom Anwender zum Anbieter werden?

Wo habt ihr Energieabhängigkeiten, die euch blockieren?

Quellen und weiterführende Links:

NVIDIA Blog zum AI 5-Layer-Cake: https://blogs.nvidia.com/blog/ai-5-layer-cake/

Larry Fink im Gespräch mit Jensen Huang in Davos: https://www.youtube.com/watch?v=hnF7heF3k7s

Siemens Industrial Foundation Model: https://www.siemens.com/global/en/products/automation/topic-areas/industrial-ai/industrial-foundation-model.html

Christensen et al. (2025), "Projected US Radiologist Supply, 2025 to 2055", Journal of the American College of Radiology: https://www.jacr.org/article/S1546-1440(24)00909-8/fulltext 

Harvey L. Neiman Health Policy Institute, Pressemitteilung vom Februar 2025: https://www.neimanhpi.org/press-releases/new-studies-shed-light-on-the-future-radiologist-workforce-shortage-by-projecting-future-radiologist-supply-and-demand-for-imaging/

In den letzten Folgen haben wir uns RAG (Retrieval Augmented Generation) und Fine Tuning im Zusammenhang mit Künstlicher Intelligenz (KI) und Large Language Models (LLMs) angeschaut. Doch was ist eigentlich derUnterschied zwischen diesen Ansätzen? Und wann nutzt man eher welche Methode?

Beides sind Möglichkeiten, in eine Richtung, entweder dasModell (Fine Tuning) oder den Kontext (RAG) zu optimieren.

Wir schauen uns die Vor- und Nachteile an und leiten dementsprechendAnwendungsszenarien für die Praxis ab. Anhand kurzer Beispiele könnt ihr euch selbsttesten, ob ihr den Unterschied verstanden habt.

Schreibt gerne einen konkreten Anwendungsfall oder eine Ideein die Kommentare, damit wir das gemeinsam diskutieren können.

 

Kleine Anmerkung zu dem was ich in der Folge gesagt habe,weil das etwas verwirrend gesagt wurde von mir:

Bei RAG ladet ihr nicht ALL euer externes Wissen in dasContext Window, sondern nur das, was zur Beantwortung der Frage oder des UserPrompts gebraucht wird. Eben den relevanten Kontext. Dennoch kann das unterUmständen, vor allem mit einem längeren Gesprächsverlauf, System Prompts etc.,das Context Window sprengen.

Kann man ein KI-Modell (Large Language Model) einfach auf die eigenen Bedürfnisse trainieren? Dank Fine-Tuning ist das möglich.

Heute klären wir, was Fine-Tuning überhaupt ist und warum es nicht ganz so einfach ist, wie viele gerne annehmen. Für KI im Unternehmen ist es dennoch spannend zu wissen, wie es funktioniert und worauf man achten sollte.

Ihr erfahrt, was den Unterschied zwischen dem aufwendigen Grundlagentraining großer KI-Firmen und der aufgabenspezifischen Anpassung eines Modells ausmacht, welche Daten du dafür brauchst und welche Strategien es gibt.

Diese Folge richtet sich primär an Menschen, die grundsätzlich verstehen wollen, was KI-Spezialisierung bedeutet, ohne zu tief in die Technil einzusteigen.