Startseite
Podcasts
Die KI Kantine - der Entwickler-Podcast über Künstliche Intelligenz Podcast
Rekursive KI-Selbstverbesserung – wenn die KI sich selbst trainiert

Rekursive KI-Selbstverbesserung – wenn die KI sich selbst trainiert

Die KI Kantine - der Entwickler-Podcast über Künstliche Intelligenz vor 1 Woche

Warum Recursive Self-Improvement schwieriger ist, als es klingt

0:00

6:35

Rekursion kennt man aus der Programmierung: Eine Funktion ruft
sich selbst wieder auf. Bei KI wird unter „Recursive
Self-Improvement“ die Idee verstanden, dass eine KI ihre eigene
Weiterentwicklung immer stärker selbst übernimmt. Genau hier
sehen KI-Forscher allerdings noch erhebliche Schwierigkeiten.
Aktuell funktioniert Lernen vor allem über Reinforcement
Learning: Die KI bekommt ein klares Ziel und wird für gute
Ergebnisse belohnt beziehungsweise für schlechte bestraft.

Problematisch wird es, wenn die KI ihre Ziele und
Trainingsaufgaben selbst festlegen soll. Dann fehlt die Kontrolle
durch den Menschen, der bisher beispielsweise Logfiles
analysieren und erkennen kann, an welcher Stelle eine KI bei
einer Aufgabe in die falsche Richtung gelaufen ist. Bei einer
vollständig rekursiven Selbstverbesserung könnten diese
Zwischenschritte in einer Blackbox verschwinden.

Hinzu kommt das Problem des „Catastrophic Forgetting“: Wenn
Modelle kontinuierlich mit neuen Daten lernen, können sie älteres
Wissen schrittweise vergessen. Und auch beim Erreichen von
Belohnungszielen zeigt sich, dass KI-Systeme manchmal lieber das
Belohnungssystem austricksen, statt die eigentliche Aufgabe zu
lösen. Deshalb könnte die weitere Beschleunigung der
KI-Entwicklung an eine natürliche Grenze stoßen. Vielleicht ist
es aber auch gar nicht nötig, die KI sofort noch leistungsfähiger
zu machen – sondern zunächst herauszufinden, was mit den heutigen
Fähigkeiten überhaupt alles möglich ist.

Die KI-Kantine ist ein Projekt von Michael Busch –
Entwickler, Unternehmer und neugieriger Kantinenphilosoph.

Hier geht’s regelmäßig zur Mittagspause um
Künstliche Intelligenz im echten Entwickleralltag – verständlich,
praxisnah und mit einer Prise Skepsis.

Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du
dir eh gerade ein Tablett schnappst.

Fragen, Feedback oder eigene KI-Erlebnisse? Schreib mir an
podcast@ki-kantine.de

Alle Folgen & mehr: https://ki-kantine.letscast.fm/