vGPU-Server teilen eine NVIDIA H200 in dedizierte VRAM-Slices. Hier findest du die passenden Tarife, Modellgrößen und Grenzen.
8 dedizierte Kerne (AMD EPYC 9535) + NVIDIA H200 (7 GB VRAM) · 16 GB RAM · 512 GB NVMe · 2.5 Gbit/s
GB6: 2.210/12.400 · Steal: 0,0 %
12 dedizierte Kerne (AMD EPYC 9535) + NVIDIA H200 (14 GB VRAM) · 32 GB RAM · 1 TB NVMe · 2.5 Gbit/s
GB6: 2.225/17.200 · Steal: 0,0 %
vGPU eignet sich für 8B–14B-LLMs, Embeddings, Bildgenerierung und kleine Fine-Tunes. Für 70B-Modelle brauchst du viel RAM oder mehrere GPUs; ein einzelner 14-GB-Slice reicht nicht.
CPU-Server sind günstiger, aber LLM-Inferenz ohne GPU ist langsam. vGPU liefert Tensor Cores und schnellen VRAM; dafür ist der VRAM begrenzt und die Tarife sind teurer.
Ollama läuft auf dem vGPU-Server mit NVIDIA Container Toolkit. OpenWebUI liefert die Weboberfläche. Für 8B-Modelle reicht der RS 2000 vGPU 7; für 14B der RS 4000 vGPU 14.
Der Server-Berater zeigt vGPU für KI und Root Server für große Modelle.
Gutschein im Warenkorb prüfen.
Der RS 2000 vGPU 7 mit 7 GB VRAM reicht für Llama 3.1 8B in 4-Bit-Quantisierung. Für 14B-Modelle ist der RS 4000 vGPU 14 besser.
Nicht auf einem einzelnen 7-/14-GB-Slice. 70B-Modelle brauchen Hybrid-Offload mit viel RAM (z. B. RS 8000) oder mehrere GPUs; die Token-Rate ist dann niedriger.
Prüfe den Code im Warenkorb. Die allgemeinen Ausnahmen (Domains, VPS ARM, VPS Lite, Merchandise) gelten; vGPU-Tarife können eigene Bedingungen haben.