Folge 7 – Foundry Local

In dieser Episode von Cloud Junkies sprechen Rene Fürstenberg und
ich über Foundry Local – eine spannende neue
Möglichkeit, die Microsoft derzeit in der
Preview-Phase anbietet. Foundry Local erlaubt
es, LLMs und SLMs auf eigener Hardware zu
betreiben und zu konsumieren – und eröffnet damit völlig neue
Wege, künstliche Intelligenz lokal, sicher und
DSGVO-konform einzusetzen.


Wir beleuchten, wie diese Lösung funktioniert, welche
Szenarien und Einsatzmöglichkeiten sich daraus
ergeben und worin die technischen und organisatorischen
Vorteile liegen. Außerdem teilen wir unsere
Einschätzungen, für welche Unternehmen und Use Cases Foundry
Local besonders interessant ist – und wo aktuell noch
Herausforderungen bestehen.


Wenn ihr euch fragt, wie ihr Generative AI in sensiblen
oder regulierten Umgebungen nutzen könnt, ohne auf die
Vorteile moderner Sprachmodelle zu verzichten, dann ist diese
Folge genau das Richtige für euch.