LoRA Fine-Tuning für SEO: Mein eigenes LLM Experiment

In dieser AI Talk Folge geht es um mein Experiment, ein eigenes
SEO LLM per LoRA Fine-Tuning zu trainieren.


Ich spreche darüber, wie ich aus meinem SEO Benchmark
Trainingsdaten erstelle, warum gute Datensätze wichtiger sind als
reine Menge und wie ich ein Open-Weight-Modell gezielt für
technische SEO-Aufgaben, strukturierte Daten, Onpage, Offpage,
Crawling und Agent-Workflows optimieren möchte.


Außerdem geht es um Qwen 3.6, lokale LLMs, RunPod, GPU-Setups,
Benchmarks, Student-Teacher-Ansätze und die Frage, ob ein
kleineres Modell nah genug an große Topmodelle herankommen kann,
um in echten Workflows deutlich günstiger eingesetzt zu werden.


Ein großer Teil der Folge zeigt auch, warum Fine-Tuning ein
iterativer Prozess ist: trainieren, testen, Fehler analysieren,
Trainingsdaten verbessern und erneut benchmarken.


Kapitel:


00:00 Einstieg: Warum ein eigenes SEO LLM?
02:42 SEO Benchmark, Student-Teacher-Prinzip und
Modellvergleich
05:12 Codex, Claude Code, Cursor und aktuelle Coding-Tools
07:48 Trainingsstatus, Setup und lokale Modelle
13:15 Qwen 3.6 als Basis für das Fine-Tuning
17:48 Aufbau der SEO-Trainingsdaten
24:45 Training starten, Datensätze kuratieren und LoRA
verstehen
30:42 Benchmark-Test mit dem neuen Modell
32:36 Iteration: Trainieren, testen, verbessern
39:02 Erste Ergebnisse, Rückschritte und Learnings
46:38 Analyse mit starken Modellen und Vorbereitung für V4
57:14 Neuer Trainingslauf mit optimierten Beispielen
58:15 Nächster Schritt: Tool- und Function-Calling-Training
59:54 Fazit: Wie ich LLMs optimiere
01:02:05 Warum Benchmark und Trainingsdaten getrennt bleiben
müssen
01:03:06 Ziel: Ein günstigeres spezialisiertes SEO Brain Modell