Einstieg
Klein, leise, sofort startklar.
Einzelplatz, kleine Teams, erste Anwendungen
- System
- NVIDIA DGX Spark — KI-Rechner im Buchformat
- Grafik & Speicher
- Grace-Blackwell-Chip, 128 GB gemeinsamer Speicher
- Leistung
- Modelle bis ~200 Mrd. Parameter, einige Anfragen gleichzeitig
- Betriebssystem
- Linux (Ubuntu Server LTS bzw. NVIDIA DGX OS)
- KI-Laufzeit
- vLLM bzw. Ollama, vorinstalliert und eingerichtet
- Netzwerk
- Eigenes, abgeschottetes KI-Netzsegment (VLAN)
- Absicherung
- Dienste in getrennten Containern, kein Zugriff von außen
- Stromausfall
- USV mit sauberem Herunterfahren und Wiederanlauf