8 виділених ядер (AMD EPYC 9535) + NVIDIA H200 (7 GB VRAM) · 16 GB RAM · 512 GB NVMe · 2.5 Gbit/s
GB6: 2 210/12 400 · Steal: 0,0 %
Сервери vGPU ділять NVIDIA H200 на виділені зрізи VRAM. Порівняйте тарифи, розміри моделей і обмеження.
8 виділених ядер (AMD EPYC 9535) + NVIDIA H200 (7 GB VRAM) · 16 GB RAM · 512 GB NVMe · 2.5 Gbit/s
GB6: 2 210/12 400 · Steal: 0,0 %
12 виділених ядер (AMD EPYC 9535) + NVIDIA H200 (14 GB VRAM) · 32 GB RAM · 1 TB NVMe · 2.5 Gbit/s
GB6: 2 225/17 200 · Steal: 0,0 %
vGPU підходить для LLM 8B–14B, embeddings, генерації зображень і малих fine-tune. Для моделей 70B потрібно багато RAM або кілька GPU; одного зрізу 14 GB недостатньо.
CPU-сервери дешевші, але інференс LLM без GPU повільний. vGPU дає Tensor Cores і швидкий VRAM; VRAM обмежений, а тарифи дорожчі.
Ollama працює на vGPU з NVIDIA Container Toolkit. OpenWebUI дає вебінтерфейс. RS 2000 vGPU 7 достатньо для моделей 8B; RS 4000 vGPU 14 — для 14B.
Підбір сервера покаже vGPU для AI і root-сервери для великих моделей.
Перевірте купон у кошику.
RS 2000 vGPU 7 із 7 GB VRAM достатньо для Llama 3.1 8B у 4-bit квантизації. Для моделей 14B кращий RS 4000 vGPU 14.
Ні, на одному зрізі 7/14 GB. Моделі 70B потребують hybrid offload із великим RAM (наприклад, RS 8000) або кількох GPU; token rate буде нижчим.
Перевірте код у кошику. Діють загальні винятки (домени, VPS ARM, VPS Lite, merchandise); тарифи vGPU можуть мати власні умови.