Nemotron 3.5 Lightning ist NVIDIAs effiziente 30B-MoE-Variante mit nur 3B aktiven Parametern. Sie ist auf agentische Workflows, lange Kontexte, Tool-Nutzung und effiziente lokale bzw. Single-GPU-Inferenz ausgelegt. Für die Praxis wird das Modell als High-End lokal / Server eingeordnet; veröffentlicht ist es unter OpenMDW 1.1.
Standardisierte Referenzdaten
Was ist Nemotron 3.5 Lightning 30B-A3B?
Nemotron 3.5 Lightning 30B-A3B gehört zur Familie Nemotron 3.5 des Anbieters NVIDIA. Als Anbieterland kennzeichnet OpenWeightModelle 🇺🇸 USA. Die Flagge beschreibt den Anbieter – nicht Trainingsdaten, Rechenzentrum oder Nutzerstandort.
Die Variante wird als 30B gesamt · 3B aktiv eingeordnet und verarbeitet Text. Der redaktionelle Schwerpunkt liegt auf Reasoning.
Typische Einsatzgebiete
- Agenten
- RAG
- Reasoning und Coding
Diese Einordnung ist keine Rangliste. Für reale Projekte sollten Modellqualität, Latenz, Lizenz, Infrastruktur, Datenschutz und Betriebskosten gemeinsam bewertet werden.
Hardware und lokale Nutzung
Praxisorientierung: Offiziell u. a. für DGX Spark oder H100 dokumentiert; NVIDIA nennt auch RTX-5090-Pfade über llama.cpp/GGUF.
DSGVO-Einordnung
Self-Hosting kann einen datenschutzfreundlichen Betrieb erleichtern, ist aber kein DSGVO-Konformitätsnachweis. Weil die Gewichte verfügbar sind, kann der Inferenzpfad grundsätzlich selbst betrieben und auf EU-Infrastruktur gelegt werden. Ob der konkrete Einsatz DSGVO-konform ist, hängt vom gesamten Datenfluss, der Rechtsgrundlage, Zweckbindung, Datenminimierung, Sicherheit, Löschkonzepten, eingebundenen Dienstleistern und möglichen Drittlandtransfers ab.
Lizenz
Die offizielle Modellquelle nennt OpenMDW 1.1. Open Weight bedeutet nicht automatisch Open Source. Für Weitergabe, kommerzielle Nutzung, gehostete Dienste und Modell-Derivate ist immer der vollständige aktuelle Lizenztext maßgeblich.
Deployment
Die praktische Infrastrukturklasse lautet High-End lokal / Server. Kleine Varianten können sich für lokale Geräte eignen; große Dense- oder MoE-Modelle benötigen häufig dedizierte GPU-Server, Multi-GPU-Systeme oder Cluster.
Offizielle Quelle
Häufige Fragen
Kann Nemotron 3.5 Lightning 30B-A3B lokal laufen?
Die Einordnung lautet „High-End lokal / Server“. Der tatsächliche Bedarf hängt insbesondere von Quantisierung, Kontext und Runtime ab.
Welche Lizenz gilt?
Die verlinkte Primärquelle nennt OpenMDW 1.1. Für produktive Nutzung sollte der vollständige aktuelle Lizenztext geprüft werden.