LLMs sind überschätzt – sagt der Professor mit 40.000 Zitationen

In dieser Episode sprechen wir mit Andreas
Holzinger, Professor für Digital Transformation an der
BOKU Wien, über sein Lebensthema: Human-Centered AI. Andreas
forscht seit Jahrzehnten daran, wie KI nicht gegen den Menschen
entwickelt werden sollte, sondern mit ihm – und erklärt, warum
das Expertenwissen eines Försters genauso wertvoll ist wie jeder
Datensatz, warum LLMs allein nicht die Zukunft sind, und weshalb
er sich manchmal mehr Hausverstand und weniger künstliche
Intelligenz wünscht.


 KI braucht den Human-in-the-Loop – nicht trotzdem,
sondern deshalb: Während die Tech-Welt lange davon
träumte, den Menschen vollständig aus KI-Entscheidungen
herauszuhalten, kämpft Andreas Holzinger seit über einem
Jahrzehnt für das Gegenteil. Human-Centered AI bedeutet für ihn:
Das Fachwissen einer Biologin oder eines Försters muss aktiv in
KI-Systeme einfließen – als sogenannte „Knowledge Injection" –
weil Daten allein nie das ganze Bild liefern.


️ Erklärbarkeit ist keine Kür, sondern
Pflicht: Ein Algorithmus, der ein Ergebnis liefert,
das niemand nachvollziehen kann, ist in sicherheitskritischen
Bereichen gefährlich – egal wie gut seine Performance ist.
Andreas zeigt anhand von Medizin, Recht und autonomem Fahren, wo
fehlende Transparenz zum echten Risiko wird, und warum Vertrauen
in KI-Systeme nur durch Nachvollziehbarkeit entstehen kann.


 Die Zukunft der KI liegt nicht in Texten, sondern
in der Physik: LLMs sind mächtig – aber sie
verstehen keine physische Welt. Andreas plädiert für einen
Paradigmenwechsel hin zu KI-Systemen, die echtes Kontextwissen
über reale Umgebungen besitzen und mit physikalischen Gesetzen
arbeiten können. Denn die wirklich schweren Probleme der
Menschheit – Ernährung, Klima, Gesundheit – lassen sich nicht mit
Sprachmodellen allein lösen.