DIY ist machbar, bis zur Produktion.

EXO bringt Open-Weight-Modelle auf heterogenen Heimsetups (M-Mac + RTX-Box + Linux) zum Laufen. Für Bastelfreude, Lehre, Proof-of-Concept ist das stark. Wir haben selbst lange damit gespielt und respektieren das Projekt.

• Stabilität: USB-Diskrepanzen, Treiber-Updates, Modell-Lade-Zeiten: okay im Hobby, untragbar im Tagesgeschäft
• Performance-Ceiling: heterogene Hardware bringt heterogene Latenzen; konsistent unter 2 s Antwortzeit für Frontier-Modelle ist (Stand 2026) schwierig
• Wartbarkeit: kein Single-Vendor-Support, keine SLA, keine Monitoring-Suite Out-of-the-Box
• Skalierung: für 30+ aktive Anwender braucht es zusätzliche Architektur (Loadbalancer, Queueing), die EXO nach unserem Kenntnisstand (Stand 2026) so nicht liefert

Genau hier setzt KI:KUBE an, ohne den DIY-Vorteil aufzugeben. Sie bekommen Produktions-Reife (Monitoring, Update-Regime, optionale SLA über Care) auf herstellerneutraler Standard-Hardware: Bis auf die DGX-Spark-Rechenbausteine stecken handelsübliche Komponenten drin, die Ihre eigene IT mit normalen Linux-/Kubernetes-Kenntnissen wartet, mit frei beschaffbaren Ersatzteilen. Kein Single-Vendor-Lock-in, kein NVIDIA-Spezialist, aber auch kein Bastel-Maintenance.

Mit einem fähigen Team und 4× H100 oder ähnlich lässt sich ein produktiver Stack aufbauen. Wer das schon hat, braucht uns wahrscheinlich nicht, herzlich willkommen zum gemeinsamen Tee. Wer es plant, sollte einmal kalkulieren: Hardware-Beschaffung (Lieferzeit), Engineering-Setup (4–8 Wochen für Ersttauglichkeit), Modell-Profile finden und validieren (laufender Aufwand), Update-Regime, Monitoring, Backup, Disaster-Recovery: das ist das Geschäft, das wir Ihnen abnehmen.

Reine Hardware ist beim DIY oft günstiger (gebraucht Markt, Restposten). Was den Preis ausgleicht, ist die Time-to-Productive und die Wartungs-Last: ein Engineer für 6 Wochen (innen) entspricht geschätzt ~25–35 k€, ein verständiger Hardware-Test­aufbau weitere ~10 k€ (ebenfalls geschätzt). Wer das nicht eingerechnet hat, vergleicht Äpfel mit Birnen.

• Forschung / Lehre: Lernen ist das Ziel, nicht das Resultat
• Bestehendes Engineering-Team mit Kapazität und Lust auf Infrastruktur
• Sehr spezifische Anforderungen (z.B. exotische Modell-Architekturen), für die wir kein Validated Profile haben