Open-Weight-Modelle können auf eigener Infrastruktur betrieben werden und so Datenübertragungen an externe Modellanbieter reduzieren. Das verbessert technische Kontrolle, macht ein System aber nicht automatisch DSGVO-konform. Rechtsgrundlage, Zugriffe, Logs, Speicherfristen, RAG-Daten und angebundene Dienste müssen weiterhin bewertet werden.
Datenhoheit durch eigenen Inferenzpfad
Bei einer externen API werden Prompts und Kontext an einen Dienst übertragen. Self-Hosting ermöglicht, diese Verarbeitung im eigenen Netzwerk oder in einer kontrollierten Cloud-Umgebung zu halten.
Das kann für personenbezogene Daten, vertrauliche Dokumente oder proprietären Quellcode relevant sein.
Das Modell ist nur ein Teil des Datenflusses
Ein lokales Modell kann dennoch Cloud-Embeddings, OCR, Websuche, Telemetrie oder externe Monitoring-Dienste verwenden. Wer echte Datensouveränität anstrebt, muss den gesamten Workflow kartieren.
RAG und Berechtigungen
Ein RAG-System darf Nutzern nicht automatisch alle indexierten Dokumente zugänglich machen. Retrieval und Vektordatenbank müssen bestehende Berechtigungen respektieren. Sonst kann das Modell Inhalte sehen, auf die der jeweilige Nutzer keinen Zugriff haben sollte.
Governance
Löschkonzepte, Zugriffsrollen, Logs und Modellversionen gehören in die Datenschutz- und Sicherheitsdokumentation. Lokale Verarbeitung kann die Architektur vereinfachen, ersetzt aber keine rechtliche und organisatorische Prüfung.
Was bedeutet das in der Praxis?
Open-Weight-Modelle sollten nie nur nach einem einzelnen Merkmal ausgewählt werden. Modellgröße, Architektur, Quantisierung, Lizenz, Kontext und Hardware greifen ineinander. Für eine konkrete Entscheidung sind eigene Testaufgaben deshalb wichtiger als eine einzelne Rangliste.
Mit dem Modellfinder kannst du passende Modelle zunächst nach Einsatz und Infrastruktur eingrenzen. Auf den Modellprofilen findest du anschließend Hardware-, Lizenz- und Quellenhinweise.
Primärquellen und Dokumentation
Häufige Fragen
Gilt diese Einordnung für alle Open-Weight-Modelle?
Die technischen Grundprinzipien sind allgemein, konkrete Details unterscheiden sich aber je nach Modellfamilie, Lizenz und Runtime. Maßgeblich sind deshalb immer die Primärquellen der jeweiligen Modellversion.
Wo finde ich konkrete Modelle?
Im Modellindex von OpenWeightModelle kannst du die dokumentierten Modelle nach Anbieter, Einsatzgebiet und Lizenz filtern.