Nachnutzung von LLMs

Generative KI und Sprachmodelle finden zunehmend Einsatz in der
öffentlichen Verwaltung. Um unnötige Parallelentwicklung von
GenKI-Anwendungen für die Verwaltung zu reduzieren, hat ÖFIT für
den IT-Planungsrat in einer Vorstudie die Nachnutzungspotenziale
ausgewählter Systeme untersucht. In der Podcast-Folge diskutieren
Jens Tiemann und Dr. Mike Weber mit Philipp Eins, warum Behörden
eigene KI-Lösungen wie LLMoin, AIGude oder F13 entwickeln, welche
Gründe dafür sprechen und warum Parallelentwicklung fast
unausweichlich sind. Um unterschiedliche Anforderungen zu erfüllen
und gleichzeitig die Nachnutzung zu fördern, empfiehlt die
ÖFIT-Vorstudie den Aufbau eines gemeinsamen KI-Ökosystems.
Standardisierte Schnittstellen und eine gemeinsame
Referenzarchitektur können dafür sorgen, dass auf technischer Ebene
Microservices austauschbar werden. Der derzeit entstehende
Deutschland-Stack kann diesen Prozess unterstützen. Ein weiterer
Schlüssel liegt in der Unterstützung von Verwaltungen bei
Compliance-Fragen wie Datenschutz, IT-Sicherheit und der Einhaltung
der KI-Verordnung. Mehr Informationen finden sie in der Vorstudie
»Nachnutzung generativer KI-Systeme« unter
https://www.oeffentliche-it.de/publikationen/