Procesory AMD EPYC 9645 (Turin Zen 5) obsługują instrukcje wektorowe AVX-512 VNNI/BF16 oraz szybką pamięć DDR5 ECC, umożliwiając wydajną generację tokenów dla skwantyzowanych modeli 8B–14B i wyszukiwanie wektorowe w bazie Qdrant.
ollama-avx512 + open-webui + qdrant-vector-db + embedding-workerInformacja partnerska: możemy otrzymać prowizję za zamówienie z naszego linku. Cena nie zmienia się.
12 dedykowanych rdzeni (AMD EPYC 9645) · 32 GB RAM · 512 GB NVMe · 2.5 Gbit/s
GB6: 2301/17 890 · FIO 4K: 198 500 IOPS · Steal: 0,0 %
36nc179270376308 dedykowanych rdzeni (AMD EPYC 9645) · 16 GB RAM · 256 GB NVMe · 2.5 Gbit/s
GB6: 2295/13 420 · FIO 4K: 192 000 IOPS · Steal: 0,0 %
6875nc1792797911936nc17927037630Optymalizacja pamięci, konfiguracja kernela i zabezpieczenia dla stabilnego działania w środowisku produkcyjnym.
Skonfiguruj plik wymiany 4–8 GB oraz "vm.swappiness=10", aby chronić procesy przed nagłym zabiciem przez OOM-Killera podczas skoków zużycia RAM.
Jeśli aplikacja wysyła maile: usuń regułę "netcup Mail block" w panelu SCP i skonfiguruj poprawny rekord rDNS/PTR dla swojej domeny.
Przechowuj dane aplikacji w wolumenach Docker. Wykorzystaj Restic lub BorgBackup do zewnętrznych kopii zapasowych (migawki SCP wygasają po 30 dniach).
Zostaw otwarte tylko porty 80 i 443. Zmień port SSH z 22 na niestandardowy, aby wyeliminować szum botów skanujących.