Modell · 4× DGX Spark
KI:KUBE 4
Die Standard-Ausbaustufe: empfohlen für Kanzleien, StB-Büros und mittelständische Software-Häuser.
Indikativer Wert: die tatsächliche Nutzer-/Stream-Kapazität hängt sehr von der Modellwahl ab.
Auch als Managed-Service ab 2.490 € / Monat, Investitionswege & TCO-Rechner auf /preise.
Positionierung
Wann KI:KUBE 4 die richtige Wahl ist
Wenn Sie nicht in jedem Quartal über Kapazität nachdenken wollen: KI:KUBE 4 deckt den Großteil der produktiven Use-Cases ab, von Mandantenakte bis Coding-Copilot für die ganze Entwicklung.
Typische Käufer: Kanzleien 15–50 Anwälte, mittlere StB/WP-Kanzleien, Software-Häuser 30–80 Devs, Klinik-IT, mittelständische Verwaltungen.
Hardware
Spezifikation
- DGX Spark Knoten
- 4×
- GPU-Memory (Unified)
- 512 GB
- Internes Netz
- MikroTik 400GbE-Switch (QSFP56-DD), je Spark 200GbE
- Formfaktor
- 19-Zoll-Rack, 18 HE
- Leistungsaufnahme
- ~0,6 kW unter Inferenz-Volllast (gemessen)
Highlights
Was diese Stufe besonders macht
Wirtschaftlichkeit
Sehr gute TCO-Lage: Break-Even (System-Kauf) gegenüber 30 Power-Usern auf ChatGPT Pro nach ~11,5 Monaten.
Multi-Modell-Betrieb
Großes Modell + spezialisiertes Coding-Modell parallel, kein Hot-Reload bei jedem Anwendungswechsel.
Pilotfähig
Das Pilot-2026-Programm setzt auf diese Ausbaustufe; größtes Erfahrungs-Set, schnellste Inbetriebnahme.
Eignung
Wofür gut, wofür nicht
Empfohlen für
- Frontier-Open-Weight-Modelle bis ~550B Parameter (NVFP4-quantisiert)
- Allround-Standard Qwen3.8-Flash-Next-NVFP4 (Reasoning + Tool-Calling, 262K Kontext, 356 t/s n=8, gemessen)
- Coding-Modell Qwen3.6-35B-A3B-NVFP4 (~80 t/s n=1, gemessen)
- Coding-Copilot für ganze Entwicklungs-Teams
- RAG mit getrennten Dokumentenbeständen je Team oder Mandant (im Setup umsetzbar)
- Pflichtschulungen + Routine-Tagesgeschäft gleichzeitig
Nicht sinnvoll für
- Massive Modell-Größen jenseits 500B Parameter ohne aggressive Quantisierung
- Trainings-Workloads (KI:KUBE ist eine Inferenz-Appliance, kein Trainings-Cluster)
Was läuft darauf?
Beispielhafte Sprachmodelle
Auswahl bekannter Open-Weight-Modelle, die auf dieser Ausbaustufe sinnvoll laufen, die vollständige, validierte Konfiguration ist Bestandteil der Lieferung und wird nicht öffentlich publiziert.
| Sprachmodell | Use Case | Performance (Indikation) |
|---|---|---|
| Qwen3.8-27B-NVFP4 | Dense, höchster Durchsatz auf der KI:KUBE 4 | 117 t/s n=1 · 366 t/s n=4 · 576 t/s n=8 · 1.109 t/s bei n=32 |
| Qwen3.8-Flash-Next-NVFP4 | Allround-Standard: Reasoning + Tool-Calling, 262K Kontext (NVFP4, nvidia-Checkpoint) | 84 t/s n=1 · 254 t/s n=4 · 356 t/s n=8 · 762 t/s bei n=32 · GSM8K 95,8–97,9 % |
| Qwen3.6-35B-A3B-NVFP4 | Allround + Coding | ~80 t/s n=1 (RedHatAI-Quant) |
| Qwen3.6-35B-A3B-FP8 | Allround + Coding (offene FP8-Variante) | 77 t/s n=1 |
| Qwen3.6-27B-FP8 | Dense / höchste Single-Antwort-Qualität | 44 t/s n=1 |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-NVFP4 | Multimodal (Text + Bild verifiziert, Video/Audio), 262K Kontext | 119 t/s n=1 |
| Gemma 4 26B-A4B-it-BF16 | Multimodal (Vision + Audio) | 50 t/s n=1 |
| Qwen3.5-397B-A17B-NVFP4 | Frontier-Reasoning | 40 t/s n=1 |
| Nemotron-3-Super-120B-A12B-NVFP4 | Frontier-Reasoning (Mamba2-Hybrid), 512K Kontext | 85 t/s n=1 · 205 t/s n=4 · 307 t/s n=8 · 704 t/s bei n=32 |
| Nemotron-3-Ultra-550B-A55B-NVFP4 | Größtes validiertes Modell, Frontier-Reasoning, 512K Kontext | 10 t/s n=1 |
| GLM-5.3-Flash-NVFP4 (NVFP4 W4A4) | Reasoning + Tool-Calling (glm47-Parser), 262K Kontext, eigene Quantisierung | ~50 t/s n=1 (mit spekulativem Decoding) · GSM8K 96,6 % mit / 98,7 % ohne spekulatives Decoding |
| Nemotron-3-Super-120B + Nemotron-3-Nano-Omni (parallel) | Super ist nicht multimodal: Omni ergänzt Bild, Scan, Video und Audio, beide gleichzeitig hot-loaded | Verifiziert: beide auf denselben 4 Sparks ohne Reload, Super allein ~300 t/s bei n=8; unter gleichzeitiger Volllast teilen sich beide die GPU-Bandbreite |
Performance-Werte indikativ, gemessen auf Referenz-Hardware mit SGLang. Tatsächliche Werte hängen von Topologie, Quantisierung, Kontext-Länge und Last ab. Wir besprechen die für Ihren Use-Case relevanten Modelle im Erstgespräch: keine Tabellen-Akrobatik nötig.
Upgrade-Pfad
Erweiterung auf KI:KUBE 6 möglich (~10.900 € + Service); für sehr großes Wachstum eher zweite Box parallel als Hot-Standby/Multi-Site.
Alternativen
Die anderen Ausbaustufen
KI:KUBE 2
Einstieg in lokale Frontier-KI, für kleinere Teams ohne Kompromiss bei der Datenhoheit.
KI:KUBE 2 ansehen →KI:KUBE 6
Die Pro-Variante: für sehr große Teams, paralleles Multi-Modell oder Frontier-Reasoning ohne Quantisierungs-Kompromiss.
KI:KUBE 6 ansehen →KI:KUBE 8
Das Top-Modell: maximale Unified-Memory-Reserven für die größten Frontier-Modelle in hoher Präzision und parallele Multi-Modell-Bestückung ohne Reload.
KI:KUBE 8 ansehen →KI:KUBE 4 an einem Ihrer eigenen Dokumente sehen.
Demo anfragen