Fine-Tuning passt ein vortrainiertes Modell mit zusätzlichen Beispielen an. LoRA trainiert kleine Low-Rank-Adapter statt aller Modellparameter. QLoRA kombiniert LoRA mit einem quantisierten Basismodell und reduziert so den Speicherbedarf. Für häufig wechselndes Faktenwissen ist RAG oft flexibler.
Vollständiges Fine-Tuning
Beim klassischen Fine-Tuning werden viele oder alle Modellparameter weitertrainiert. Das benötigt viel GPU-Speicher und erzeugt große neue Checkpoints. Für die meisten Teams ist das nur bei klaren Anforderungen sinnvoll.
LoRA
Low-Rank Adaptation friert das Basismodell ein und lernt kleine zusätzliche Matrizen. Dadurch sinkt die Zahl trainierbarer Parameter drastisch. Adapter können getrennt gespeichert, gewechselt und teilweise mit dem Basismodell verschmolzen werden.
QLoRA
QLoRA lädt das Basismodell in quantisierter Form und trainiert LoRA-Adapter darüber. Damit wird Fine-Tuning großer Modelle auf deutlich begrenzterer Hardware möglich.
RAG oder Fine-Tuning?
RAG eignet sich für Wissen und Quellen, die sich verändern. Fine-Tuning ist stärker, wenn Verhalten, Format, Fachsprache oder wiederkehrende Muster angepasst werden sollen.
In vielen Unternehmenssystemen ist eine Kombination sinnvoll: RAG liefert aktuelle Fakten, ein Adapter optimiert Verhalten oder Ausgabeformat.
Was bedeutet das in der Praxis?
Open-Weight-Modelle sollten nie nur nach einem einzelnen Merkmal ausgewählt werden. Modellgröße, Architektur, Quantisierung, Lizenz, Kontext und Hardware greifen ineinander. Für eine konkrete Entscheidung sind eigene Testaufgaben deshalb wichtiger als eine einzelne Rangliste.
Mit dem Modellfinder kannst du passende Modelle zunächst nach Einsatz und Infrastruktur eingrenzen. Auf den Modellprofilen findest du anschließend Hardware-, Lizenz- und Quellenhinweise.
Primärquellen und Dokumentation
Häufige Fragen
Gilt diese Einordnung für alle Open-Weight-Modelle?
Die technischen Grundprinzipien sind allgemein, konkrete Details unterscheiden sich aber je nach Modellfamilie, Lizenz und Runtime. Maßgeblich sind deshalb immer die Primärquellen der jeweiligen Modellversion.
Wo finde ich konkrete Modelle?
Im Modellindex von OpenWeightModelle kannst du die dokumentierten Modelle nach Anbieter, Einsatzgebiet und Lizenz filtern.