Ein eigenes Large Language Model aufbauen – mit Torsten N., DKB

Alle Unternehmen wollen gerade etwas mit Künstlicher Intelligenz
machen. Die wenigsten sind allerdings so weit, dass sie eigene
Systeme einsetzen. Ganz anders sieht es bei der DKB, der Deutschen
Kreditbank aus. Torsten Nahm, Head of Data Science, erklärt Jonas
Rashedi, dem Host des Podcasts MY DATA IS BETTER THAN YOURS, was
die DKB mit KI macht. Das Unternehmen hat ein eigenes Large
Language Model erstellt und kann dadurch die Anfragen der
Kund:innen in die verschiedenen Fachbereiche „sortieren“. Dafür
musste zunächst die Infrastruktur aufgebaut werden – übrigens auch
die Herausforderung, vor denen die meisten Unternehmen stehen, die
zwar Daten sammeln, sie aber noch nicht strukturiert und zentral
vorliegen haben. Torsten erklärt, wie Künstliche Intelligenz,
Machine Learning, Natural Language Processing und Large Language
Models zusammengehören und welche Schritte die DKB gemacht hat, um
das eigene Modell aufzusetzen. Natürlich geht es dann – im
Zusammenhang mit Sprache – auch um ChatGPT und wie dieses Modell
trainiert wurde, um Finetuning und darum, wie man ein Sprachmodell
so erstellt, dass es sich weltanschaulich neutral verhält. Auch der
Datenschutz wird in dem Gespräch der beiden Experten nicht
ausgelassen. Jonas stellt dann noch die ketzerische Frage, ob die
Arbeit an Large Language Models durch ChatGPT unnötig war, doch
Torsten sieht das als Wesen der Disruption, das nun noch mehr
ermöglicht. Er erklärt, dass es zurzeit zwei Use Cases für Large
Language Models gibt: Chatbots und Inhalte, also die Möglichkeit,
ein Modell auf Basis der eigenen Inhalte zu trainieren, sodass man
dann damit interagieren kann. Dieser Case spart unglaublich viel
Zeit, nicht nur bei Banken, sondern auch im juristischen Bereich.
Sein Tipp: Ein ehrliches Beratungsteam hilft dabei, eigene Modelle
aufzusetzen und dafür zu sorgen, dass man nicht etwas baut, dem die
Grundlage fehlt. MY DATA IS BETTER THAN YOURS ist ein Projekt von
BETTER THAN YOURS, der Marke für richtig gute Podcasts. Zum
LinkedIn-Profil von Torsten:
https://www.linkedin.com/in/torstennahm/ Zur Webseite von DBK:
https://www.dkb.de/ Zu allen wichtigen Links rund um Jonas und den
Podcast: https://linktr.ee/jonas.rashedi Zur Podcast Umfrage (Jede
Woche wird ein Hoodie verlost!):
https://listening.sslsurvey.de/Data-Podcast-Feedback 00:00:00 Intro
und Begrüßung 00:01:19 Vorstellung Torsten Nahm 00:03:31 Seit wann
gibt es KI? 00:05:17 Der Hype KI 00:06:51 Die Reise zu KI von der
DKB 00:11:28 Menschliche Sprache ist komplex 00:13:30 Entwicklung
von KI 00:20:17 Datenschutz und ChatGPT 00:22:11 Disruption und
Testing 00:25:53 Wie startet man mit KI? 00:29:24 Use Cases für die
Zukunft 00:32:07 Framework und Modelle 00:37:10 Tipps für den Start
00:39:34 Torsten’s Data-Game