Microsoft AI Services verstehen - Einblicke mit Joris Kahle

In dieser Spezialfolge sprechen Chris und Matthias mit
Joris Kahle, Microsoft Data & AI Spezialist
und Co-Host der Cloud Junkies, über den tiefen Wandel von
Microsoft AI Services hin zu Azure AI Foundry und was das für die
Praxis bedeutet.


Wir starten mit PTUs (Provisioned Throughput Units) und der
Frage: Wie stelle ich sicher, dass meine Modelle zuverlässig
laufen, ohne die Kosten zu sprengen? Joris teilt konkrete
Beispiele, darunter der berühmt-berüchtigte Fall eines Partners,
der nur 20 Prompts testete und am nächsten Tag über 7.500 €
reservierte GPU-Kosten hatte.


Ein weiterer Schwerpunkt sind Token-Limits und Regionen: Warum
GPT-4o in einigen Regionen mehr Tokens pro Minute verarbeiten
kann als in anderen und warum Unternehmen bei hohen Anforderungen
oft auf Microsoft-Account-Manager und interne Freigaben
angewiesen sind.


Das Herzstück der Folge ist jedoch der Real-Time-Use-Case: Ein
Sprachbot auf Basis von GPT-4o, der Kundendialoge übernimmt, auch
wenn niemand im Büro ist. Nicht als Hotline-Bot, sondern als
echter Assistent, der Daten aus ERP, Azure Blob Storage und Azure
Search kombiniert. Ein Einsatz, der zeigt, wie KI heute echten
Mehrwert schafft.


Neben diesen Beispielen geht es um:


- Die Evolution von Cognitive Services zu Azure AI Foundry


- Warum die Qualität der Daten über Erfolg entscheidet


- Wie Unternehmen RAG-Modelle (Retrieval Augmented Generation)
sinnvoll einsetzen


- Welche Rolle Microsoft Fabric im Zusammenspiel mit AI spielt


- KI-Ethik, DSGVO und technische Grenzen – gerade bei Voice


Diese Folge ist perfekt für alle, die AI in Azure ganz praktisch
verstehen wollen - ohne Marketing-Sprech, sondern mit echten
Geschichten, Praxiserfahrung und klaren technischen Einordnungen.


Melde dich für unseren Substack-Newsletter an, um exklusive
Inhalte zur Folge zu
erhalten:https://podcastcloudoptimizer.substack.com/


Folge uns auf LinkedIn und diskutiere mit uns:Christian:
https://www.linkedin.com/in/christian-forjahnMatthias:
https://www.linkedin.com/in/matthias-braun-cloud-architect


Hat dir die Folge gefallen? Dann hinterlasse eine Bewertung und
teile den Podcast mit deinem Netzwerk.


Bis zur nächsten Episode!Chris und Matthias


PS: Danke an Svenja für das großartige Intro und Outro!


This is a public episode. If you would like to discuss this with
other subscribers or get access to bonus episodes, visit
podcastcloudoptimizer.substack.com