Nemotron 3.5 Super VL: Welche Hardware Dokumenten-KI im eigenen Haus jetzt braucht

Nemotron 3.5 Super VL: Welche Hardware Dokumenten-KI im eigenen Haus jetzt braucht

NVIDIA hat am 15. Oktober 2026 Nemotron 3.5 Super VL veröffentlicht, ein offenes Modell, das Text, Bilder, Dokumentseiten und kurze Videos verarbeitet. Für IT-Leitungen und Digitalisierungsverantwortliche in Industrie und Handel, etwa im Wareneingang eines Automobilzulieferers oder in der Auftragsabwicklung eines Intralogistikers, wird damit eine Frage konkret: Lassen sich Lieferscheine, Werkszeugnisse und technische Unterlagen mit einem Modell auswerten, das vollständig im eigenen Haus läuft, und welche Hardware braucht man dafür?

Kurz beantwortet

Nemotron 3.5 Super VL ist ein Bild-Text-Modell mit 120 Milliarden Parametern, das NVIDIA für den Betrieb auf einem einzelnen DGX Spark, einer H200 oder zwei H100 freigibt. Die Lizenz OpenMDW-1.1 erlaubt den kommerziellen Eigenbetrieb ohne Umsatzgrenze. Für ein Pilotprojekt mit eigenen Dokumenten genügt ein DGX Spark zum Listenpreis von 6.950 US-Dollar, für den Produktivbetrieb mit mehreren gleichzeitigen Anfragen nach unserer Einschätzung ein Server mit H200. Testen Sie vor dem Kauf 100 bis 200 eigene Dokumente, denn Englisch ist die Hauptsprache des Modells (Stand 19.10.2026).

Nemotron 3.5 Super VL im Steckbrief, Stand 19.10.2026. Quellen: NVIDIA, Blog und Model Card auf Hugging Face (15.10.2026), OpenMDW-1.1 Lizenztext
Merkmal Nemotron 3.5 Super VL
Herausgeber NVIDIA Corporation
Architektur Mixture-of-Experts aus Mamba-2- und Transformer-Schichten mit Bild-Encoder
Parameter 120 Milliarden gesamt, 12 Milliarden aktiv je Token
Eingabe Text, Bilder (JPEG, PNG), Dokumentseiten als Bild, Videos bis 2 Minuten
Kontextfenster Bis 1 Million Token
Sprachen Englisch als Hauptsprache, im Nachtraining zusätzlich Deutsch, Französisch, Italienisch, Spanisch, Japanisch, Chinesisch
Formate BF16, NVFP4 (4 Bit), Basismodell
Lizenz OpenMDW-1.1, kommerzielle Nutzung erlaubt

Was NVIDIA veröffentlicht hat

NVIDIA stellt Super VL als Modell für Agenten vor, die Dokumente lesen, Tabellen und Diagramme auswerten und Werkzeuge aufrufen (NVIDIA Blog, 15.10.2026). Neben den Gewichten hat NVIDIA Trainingsdaten und Rezepte veröffentlicht, sodass Unternehmen das Modell mit eigenen Daten nachtrainieren können. Die Angabe, Super VL arbeite bis zu fünfmal schneller als vergleichbare offene Modelle, stammt vom Hersteller. Am selben Tag erschien Nemotron 3.5 Bolt 74B-A9B, eine kleinere Bild-Text-Variante mit nativer 2-Bit-Quantisierung, die in 24 GB Grafikspeicher passt.

Erste Ergebnisse von außen liegen vor. Thoughtworks hat als Partner im Vorabzugang das Modell auf 4 Bit verkleinert: Die Gewichte schrumpften von 231,8 auf 68,1 GiB und passten damit auf eine einzelne H200. Ein Nachtraining auf eine Fachaufgabe dauerte rund drei Stunden auf vier H200 (Thoughtworks, 10/2026). Diese Werte beziehen sich auf einen Vorabstand vom 21. September, nicht auf die finale Fassung.

12 Mrd.

Parameter rechnen je Token, gespeichert werden müssen alle 120 Milliarden. Deshalb bestimmt der Speicher die Hardware.

NVIDIA, Model Card Nemotron 3.5 Super VL, 10/2026

Welche Hardware der Eigenbetrieb braucht

NVIDIA nennt für die 4-Bit-Fassung vier Zielsysteme. Auf älteren Karten ohne Blackwell-Architektur läuft NVFP4 laut Model Card mit 16-Bit-Aktivierungen, also langsamer als auf Blackwell.

Hardwarevarianten, Stand 19.10.2026. Quellen: NVIDIA Model Cards Super VL und Bolt (15.10.2026), vLLM-Rezepte, Unsloth-Dokumentation, Listenpreis DGX Spark laut NVIDIA-Store (02.10.2026)
System Format Hinweis
1× DGX Spark (128 GB) NVFP4 Text und Bild, NVIDIA-Startkonfiguration mit einer Anfrage gleichzeitig, Listenpreis 6.950 US-Dollar
1× RTX PRO 6000 (96 GB) NVFP4 vLLM-Rezept mit 16.384 Token Kontext
1× H200 oder 2× H100 NVFP4 Text, Bild und Video laut NVIDIA
4× H100 oder 2× GB200 BF16 Volle Genauigkeit, Grundlage für eigenes Nachtraining
Grafikkarte mit 24 bis 32 GB Nur Bolt 74B-A9B Super VL passt in keiner Quantisierung, die kleinste Fassung belegt 46,1 GB

Rechenbeispiel: Wareneingang beim Zulieferer

Ein Automobilzulieferer erfasst im Wareneingang täglich 800 Lieferscheine und Werkszeugnisse von rund 150 Lieferanten. Angenommen sind 2 Minuten manuelle Erfassung je Dokument.

  • Manueller Aufwand: 800 × 2 Minuten ergeben 1.600 Minuten, also rund 27 Stunden je Arbeitstag oder gut drei Vollzeitstellen.
  • Zeitbudget der Maschine: Bei Verarbeitung über zwei Schichten stehen 57.600 Sekunden zur Verfügung, je Dokument also 72 Sekunden.
  • Hardware: Ein DGX Spark kostet 6.950 US-Dollar Listenpreis. Ob er mit einer Anfrage gleichzeitig 72 Sekunden je Dokument einhält, muss ein Lasttest mit echten Dokumenten zeigen, NVIDIA veröffentlicht dafür keine Durchsatzwerte.

Die Hardware ist in diesem Beispiel der kleinere Posten. Den Aufwand bestimmen die Anbindung an ERP und Wareneingangsbuchung, die Prüfregeln für Mengen und Chargen sowie die Freigabe durch Mitarbeitende bei unsicheren Feldern. Erst wenn der Pilot eine stabile Erkennungsquote zeigt, lohnt die Investition in einen Server für mehrere Standorte.

Optionen für Dokumenten-KI im eigenen Haus

Optionen für IT-Leitungen, Stand 19.10.2026. Quellen: NVIDIA, Lizenztext OpenMDW-1.1, eigene Einschätzung
Option Aufwand Kosten Risiko
Nichts tun Keiner Keine Manuelle Erfassung bleibt, Wissen über Dokumenten-KI fehlt bei der nächsten Budgetrunde
Test über gehostete API (NVIDIA, OpenRouter) Wenige Tage Nutzungsabhängig Daten verlassen das Haus, nur mit anonymisierten Dokumenten
Pilot auf DGX Spark 3 bis 4 Wochen Listenpreis 6.950 US-Dollar plus Projekt Eine Anfrage gleichzeitig, kein Produktivsystem
Server mit H200 oder zwei H100 Sizing, Rechenzentrumsplatz, Betrieb Serverinvestition, Angebot je nach Ausstattung Lohnt erst bei nachgewiesener Erkennungsquote
Bolt 74B-A9B auf vorhandener Karte 1 bis 2 Wochen Vorhandene Hardware ab 24 GB Weniger leistungsfähig als Super VL

Wofür sich das Modell eignet

Super VL zielt auf Dokumente, in denen Text, Tabellen und Bilder zusammenhängen: Lieferscheine mit Stempeln, Prüfprotokolle mit Fotos, Messberichte mit Diagrammen, Wartungshandbücher und Ersatzteillisten. Im Diagramm-Test CharXiv nennt NVIDIA 80,8 Prozent. Dokumente gehen laut Model Card als Seitenbild mit begleitendem Text ins Modell, CAD-Dateien müssen vorher als Bild ausgegeben werden. Für die reine Suche in Handbüchern reicht oft ein kleineres Textmodell, wie der Open-Source-LLM-Vergleich zeigt.

Zur Lizenz: OpenMDW-1.1 erlaubt Nutzung, Änderung und Weitergabe ohne Umsatzgrenze. Wer das Modell weitergibt, muss Lizenztext und Herkunftshinweise beilegen. Klagt ein Nutzer wegen Patent- oder Urheberrechtsverletzung durch das Modell, erlöschen seine Rechte. Für die Ausgaben gelten keine Auflagen. Wer die Gewichte selbst betreibt, sendet keine Daten an NVIDIA.

Was die Zahlen nicht zeigenDie Leistungswerte stammen überwiegend von NVIDIA. Die 4-Bit-Fassung verliert laut Model Card in einzelnen Tests deutlich, im Web-Agenten-Test WebVoyager von 77,72 auf 66,31 Punkte, im mehrsprachigen MMLU-ProX von 76,91 auf 73,76. Für deutsche Dokumente gibt es noch keine unabhängigen Messungen. Ein Test mit eigenen Unterlagen ersetzt jeden Benchmark.

Dokumenten-Pilot mit Nemotron 3.5 Super VLWir werten 200 Ihrer Dokumente, etwa Lieferscheine, Werkszeugnisse oder Prüfprotokolle, mit freigegebenen oder anonymisierten Daten auf einer Testumgebung aus. Innerhalb von 15 Arbeitstagen erhalten Sie die Erkennungsquote je Feld, die Bearbeitungszeit je Dokument, eine Hardwareempfehlung zwischen DGX Spark und Server sowie eine Kostenrechnung für Ihr Volumen. Erstgespräch: 30 Minuten, kostenlos, Antwort binnen eines Werktags.

Pilot anfragen

Häufige Fragen

Läuft Nemotron 3.5 Super VL auf einer RTX 4090 oder 5090?

Nein. Die kleinste verfügbare Quantisierung belegt 46,1 GB, eine RTX 5090 hat 32 GB. Für Karten mit 24 bis 32 GB hat NVIDIA Nemotron 3.5 Bolt 74B-A9B veröffentlicht, das ebenfalls Bilder verarbeitet.

Darf man Nemotron 3.5 Super VL kommerziell nutzen?

Ja. Die Lizenz OpenMDW-1.1 erlaubt den kommerziellen Einsatz ohne Umsatz- oder Nutzerschwelle. Bei Weitergabe des Modells müssen Lizenztext und Herkunftshinweise beiliegen.

Versteht das Modell deutsche Dokumente?

NVIDIA nennt Deutsch als eine von sechs zusätzlichen Sprachen im Nachtraining, Hauptsprache ist Englisch. Wie gut Fachbegriffe, Handschrift und Stempel auf deutschen Lieferscheinen erkannt werden, zeigt nur ein Test mit eigenen Unterlagen.

Der nächste Schritt

torck plant und betreibt offene Sprachmodelle im Rechenzentrum von Kunden aus Industrie und Handel, von der Modellauswahl über die Anbindung an ERP und Archiv bis zum Betrieb. Im Erstgespräch klären wir, ob Ihre Dokumente ein Bild-Text-Modell brauchen und welche Hardware dazu passt. Die Verarbeitung von Dokumenten mit KI im Überblick zeigt die Seite Dokumentenverarbeitung mit KI. Zur KI-Beratung mit On-Premise-LLM.

Weiterlesen: Ob sich der Hardwarekauf jetzt lohnt, zeigt der Beitrag zur KI-Hardware 2027. Was ein Modell der Billionenklasse verlangt, steht im Beitrag zu Mistral Large 4. Wie Unternehmen Sprachmodelle selbst betreiben, beschreibt der Beitrag zu On-Premise-LLM im Unternehmen.

Frage zu diesem Beitrag?

Zwei Sätze zu Ihrer Situation genügen. Es antwortet jemand, der solche Systeme selbst baut.

Antwort innerhalb eines Werktags.torck · Code mit Drehmoment
Florian Blischke
Geschäftsführer torck · über 20 Jahre Softwareentwicklung
Florian Blischke ist Geschäftsführer von torck mit Sitz in Maxhütte-Haidhof bei Regensburg. Er ist seit über 20 Jahren in der Softwareentwicklung tätig. Seine Schwerpunkte sind individuelle Software, Daten und KI für Industrie und Handel, von der Anbindung physischer Prozesse über IoT bis zu Cloud-Architektur und daten- sowie KI-gestützten Systemen. torck arbeitet mit einem eigenen Nearshore-Team in Rabat. Bei torck begleitet er unter anderem die Energieplattform Jouvoli und das Fleet-Management-Produkt KVM Fleet. torck entwickelt an den Standorten Maxhütte-Haidhof, Wien und Rabat und legt Wert auf Software, die im Betrieb tatsächlich funktioniert.

Steht bei Ihnen dieselbe Frage an?

Wir bauen seit 2017 Software für Industrie und Handel, von Maxhütte-Haidhof bei Regensburg aus, mit Teams in Wien und Rabat. Ein Erstgespräch dauert 30 Minuten und kostet nichts. Danach wissen Sie, ob sich das Vorhaben lohnt, auch wenn die Antwort nein lautet.

Weitere Beiträge