043 - Leitfaden zum lokalen Modelltraining

Diese Episode bietet einen prägnanten Leitfaden zu
Open-Source-LLMs. Erfahren Sie den Unterschied zwischen
Base-Modellen und
Instruct-Modellen, die Bedeutung von
Chat-Templates und Model Cards
auf Hugging Face. Wir beleuchten, wann Fine-Tuning (für
Fähigkeiten) statt RAG (für Wissen)
sinnvoll ist und wie PEFT/QLoRA sowie der
SFTTrainer das effiziente Anpassen von Modellen
ermöglichen.