Fine-Tuning (Feinabstimmung) ist das nachträgliche Weitertrainieren eines bereits vortrainierten Basismodells mit einem kuratierten, aufgabenspezifischen Datensatz, wobei ein Teil oder die Gesamtheit der Modellgewichte angepasst wird.
Erklärung
Um Rechenzeit und Speicherbedarf gering zu halten, nutzen Entwickler heute meist parametereffiziente Verfahren wie LoRA (Low-Rank Adaptation), bei denen das große Basismodell unverändert bleibt und nur kleine zusätzliche Adaptermatrizen trainiert werden. Im B2B-Umfeld bewährt sich Fine-Tuning vor allem dann, wenn ein Modell dauerhaft ein bestimmtes Ausgabeformat, fachsprachliche Klassifikationen, spezielle Code-Konventionen oder eine feste Tonalität einhalten soll, ohne dass in jedem Prompt lange Beispielketten mitgeschickt werden müssen. Weniger geeignet ist Fine-Tuning als Wissensspeicher für häufig wechselnde Unternehmensdaten wie aktuelle Preislisten, Lagerbestände oder Vertragsstände: Für veränderliche Fakten liefert Retrieval-Augmented Generation (RAG) überprüfbare Ergebnisse mit Quellenbezug, während Fine-Tuning Verhalten und Ausgabestruktur des Modells steuert.