Open-Weight-Modelle von Grund auf verstehen.
Grundlagen, Hardware, lokale Inferenz, Lizenzen, Self-Hosting und Unternehmensfragen – verständlich für Einsteiger und präzise genug als Nachschlagewerk.
Was sind Open-Weight-Modelle?
Definition, Nutzen, Grenzen und warum Open Weight nicht automatisch Open Source bedeutet.
Grundlagen lesen → WICHTIGOpen Weight vs. Open Source
Warum die Begriffe nicht synonym sind und welche Rolle Lizenz, Daten und Code spielen.
Unterschied verstehen →Was sind Open-Weight-Modelle? Definition, Nutzen und Grenzen
Was bedeutet Open Weight bei KI-Modellen? Gewichte, lokale Nutzung, Anpassung, Lizenzen und der Unterschied zu Open Source verständlich erklärt.
Artikel öffnen →GrundlagenOpen Weight vs. Open Source: der wichtige Unterschied bei KI-Modellen
Open Weight und Open Source werden bei KI oft verwechselt. Hier erfährst du, welche Bestandteile offen sein müssen und warum die Lizenz entscheidend ist.
Artikel öffnen →AuswahlOpen-Weight-Modell oder API? Vor- und Nachteile für Privatnutzer und Unternehmen
Open-Weight-Modelle und geschlossene API-Modelle im Vergleich: Kontrolle, Kosten, Datenschutz, Wartung, Qualität und Skalierung.
Artikel öffnen →GrundlagenModellgewichte und Parameter einfach erklärt: Was bedeuten 7B, 14B oder 70B?
Was sind Modellgewichte, Parameter und Milliarden-Parameter? Verständliche Erklärung von 7B, 14B, 32B, 70B und ihrer Bedeutung für Hardware und Qualität.
Artikel öffnen →HardwareWelche Modellgröße passt zu meiner Hardware? 1B bis 70B verständlich eingeordnet
Open-Weight-Modelle nach Größe: Welche 1B-, 3B-, 7B-, 14B-, 32B- und 70B-Modelle passen zu Laptop, Mac, Gaming-PC oder Server?
Artikel öffnen →HardwareLLM-Quantisierung erklärt: 4 Bit, 8 Bit, Q4 und warum sie lokale KI möglich macht
Quantisierung bei Open-Weight-Modellen erklärt: 4 Bit, 8 Bit, Speicherbedarf, Qualitätsverlust, GGUF, bitsandbytes und praktische Auswahl.
Artikel öffnen →TechnikGGUF und Safetensors: Die wichtigsten Dateiformate für Open-Weight-Modelle
Was ist GGUF, was ist Safetensors und wann brauchst du welches Format? Dateiformate für llama.cpp, lokale KI, Transformers und Server-Inferenz erklärt.
Artikel öffnen →HardwareRAM und VRAM für lokale KI: Wie viel Speicher brauchen Open-Weight-Modelle?
Wie viel RAM oder VRAM braucht ein lokales LLM? Speicherbedarf, Quantisierung, KV-Cache, Kontextlänge und GPU-Offloading verständlich erklärt.
Artikel öffnen →PraxisOpen-Weight-Modelle lokal auf Mac, Windows und Linux nutzen
Lokale KI auf Mac, Windows oder Linux: Hardware, Runtimes, Modellformate und ein sinnvoller Einstieg mit Open-Weight-Modellen.
Artikel öffnen →PraxisOllama oder llama.cpp? Open-Weight-Modelle lokal betreiben
Ollama und llama.cpp im Vergleich: Installation, Modellverwaltung, GGUF, lokale API, Kontrolle und typische Einsatzgebiete.
Artikel öffnen →DeploymentvLLM und Open-Weight-Modelle: leistungsfähige Server-Inferenz erklärt
Was ist vLLM? Open-Weight-Modelle als OpenAI-kompatiblen Server bereitstellen, GPU-Inferenz, Skalierung und Sicherheitsaspekte.
Artikel öffnen →LizenzLizenzen bei Open-Weight-Modellen: Apache 2.0, MIT, Community und Custom
Welche Lizenz gilt für Open-Weight-Modelle? Apache 2.0, MIT, Llama Community License, Gemma Terms und Research-Lizenzen verständlich eingeordnet.
Artikel öffnen →LizenzDarf ich Open-Weight-Modelle kommerziell nutzen? Die wichtigsten Prüfungen
Open-Weight-Modelle kommerziell nutzen: Lizenz, Hosted Service, Weitergabe, Acceptable Use, Markenrecht und Modell-Derivate prüfen.
Artikel öffnen →UnternehmenOpen-Weight-Modelle im Unternehmen selbst hosten: Architektur, Betrieb und Kosten
Self-Hosting von Open-Weight-Modellen im Unternehmen: GPU-Server, private Cloud, Inferenzserver, Skalierung, Monitoring, Kosten und Betrieb.
Artikel öffnen →UnternehmenOpen-Weight-Modelle, Datenschutz und Datensouveränität
Wie Open-Weight-Modelle Datenschutz und Datensouveränität unterstützen können – und warum lokales Hosting allein noch keine DSGVO-Compliance garantiert.
Artikel öffnen →PraxisRAG mit Open-Weight-Modellen: eigenes Wissen sicher nutzbar machen
Retrieval-Augmented Generation mit Open-Weight-Modellen erklärt: Embeddings, Vektordatenbank, Chunking, Quellen, Datenschutz und typische Architektur.
Artikel öffnen →AnpassungFine-Tuning, LoRA und QLoRA bei Open-Weight-Modellen erklärt
Wann lohnt Fine-Tuning? LoRA und QLoRA verständlich erklärt: Unterschiede zu RAG, Trainingsaufwand, Quantisierung und typische Einsatzgebiete.
Artikel öffnen →TechnikMixture of Experts (MoE) bei Open-Weight-Modellen verständlich erklärt
Was bedeutet Mixture of Experts? Aktive Parameter, Gesamtparameter, Speicherbedarf und warum MoE-Modelle nicht einfach wie kleine Modelle behandelt werden können.
Artikel öffnen →RegulierungEU AI Act und Open-Weight-Modelle: Was Unternehmen wissen sollten
EU AI Act und Open-Weight-Modelle: General-Purpose-AI, Open-Source-Ausnahmen, Pflichten für Anbieter und warum Self-Hosting nicht alle Pflichten beseitigt.
Artikel öffnen →SicherheitOpen-Weight-Modelle sicher betreiben: Zugriff, Prompt Injection und Modellserver
Sicherheit beim Self-Hosting von Open-Weight-Modellen: Modellserver absichern, Prompt Injection, RAG-Berechtigungen, Logs, Tools und Updates.
Artikel öffnen →