Wie komme ich vom GenAI Hype zum sicheren produktiven Einsatz, Raiko Mesterheide?

In diesem Podcast spricht Björn Brundert mit Raiko Mesterheide,
Client Strategist bei VMware, über den Architekturansatz "Private
AI" sowie wie Unternehmen Künstliche Intelligenz (KI) in ihre
IT-Infrastruktur implementieren und mit den Sicherheits- und
Compliance-Anforderungen in Einklang bringen können.


Zeitstempel:


01:16 - Vorstellung Raiko Mesterheide und persönliche
Ausbildung rund um Künstliche Intelligenz

04:03 - Privacy: Datensicherheit und Datenschutz

09:15 - Choice: Sehr hohe Innovationsgeschwindigkeit im
AI-Ökosystem

12:24 - Parallelen zum “Cloud Hype” und “Flut hebt alle
Boote”

14:09 - Neue Foundational und Large-Language-Modelle

18:48 - Open Source und AI: Wichtigkeit von Daten, MLOps,
Frameworks & Co.

23:15 - Was ist eigentlich ein “Modell” und wo bekomme ich
das her?

30:28 - Was sind die Infrastrukturanforderungen für die
Ausführung eines Modells?

32:17 - Wie kann ich ein Modell mit meinen Daten nutzen?
Fine-Tuning oder Retrieval Augmented Generation (RAG)?

40:36 - Daten vektorisieren - wie bekomme ich die Daten in
eine Vektordatenbank?

42:29 - Wie stelle ich eine AI Applikation sicher zur
Verfügung?

46:07 - Wie stelle ich eine Infrastruktur für AI zur
Verfügung? Was hat VMware im Portfolio? Private AI
Referenzarchitektur, Partnerschaften mit NVIDIA, Intel, IBM,
Kyndryl

49:40 - Zusammenfassung



Ein VMware by Broadcom Podcast