BTC
ETH
USDT
XMR
LTC
6 нагрузок
GPU-серверы для
любой нагрузки ИИ.
Обучение, дообучение, инференс, генерация, рендеринг или исследования: каждой нагрузке нужно своё от GPU. Начните со своей.
Лучшие GPU-серверы по типу нагрузки.
На каждой странице — что важно для этой нагрузки, какие серверы мы рекомендуем, таблица подбора размера и используемое ПО.
- Обучение LLM Предобучайте модели или продолжайте предобучение на полных узлах с 8 GPU: NVLink 5 передаёт данные между картами со скоростью 1,8 ТБ/с на GPU. Лучший вариант8× B30032 152 $/мес. 8× B2008× MI355X Читать руководство
- Дообучение Запуски LoRA и QLoRA для моделей уровня 70B укладываются на одну карту объёмом 96–141 ГБ — с запасом для длинных последовательностей. Лучший вариант1× H2002 279 $/мес. 1× RTX PRO 60001× H100 Читать руководство
- Инференс и развёртывание Объём памяти определяет, насколько большую модель можно развернуть и насколько длинным будет её контекст: до 288 ГБ на одном GPU. Лучший вариант1× MI355X1 409 $/мес. 1× H2001× L40S Читать руководство
- Изображения и видео Диффузионные и видеомодели работают быстро на картах с GDDR7 и тензорными ядрами FP4 и FP8. Лучший вариант1× RTX 5090329 $/мес. 1× RTX PRO 60001× L40S Читать руководство
- 3D-рендеринг и VFX RT-ядра для Blender Cycles, Octane и Redshift, с возможностью установки до четырёх карт в одном сервере. Лучший вариант4× RTX 50901 316 $/мес. 4× RTX 40904× RTX PRO 6000 Читать руководство
- Исследования и HPC Симуляции и научный код, где важны как мощный FP64, так и высокая производительность ИИ-вычислений. Лучший вариант4× MI355X5 636 $/мес. 4× H2004× H100 Читать руководство
Какой GPU подходит под размер вашей модели.
Самая дешёвая конфигурация, вмещающая модель каждого размера, по нашей приближённой оценке. MoE-модели считаются по общему числу параметров.
| Размер модели | Инференс FP8 | Инференс 4-бит | Дообучение QLoRA | Полное обучение (смешанная точность, Adam) |
|---|---|---|---|---|
| 8Bпараметров | 1× RTX 5080199 $/мес. | 1× RTX 5080199 $/мес. | 1× RTX 5080199 $/мес. | 1× MI355X1 409 $/мес. |
| 32Bпараметров | 2× RTX 4090538 $/мес. | 1× RTX 4090269 $/мес. | 1× RTX 5090329 $/мес. | 4× MI355X5 636 $/мес. |
| 70Bпараметров | 1× RTX PRO 6000959 $/мес. | 2× RTX 5090658 $/мес. | 2× RTX 5090658 $/мес. | 8× MI355X11 272 $/мес. |
| 120Bпараметров | 1× MI355X1 409 $/мес. | 1× RTX PRO 6000959 $/мес. | 4× RTX 50901 316 $/мес. | Больше одного сервера |
| 405Bпараметров | 2× MI355X2 818 $/мес. | 1× MI355X1 409 $/мес. | 2× MI355X2 818 $/мес. | Больше одного сервера |
| 671Bпараметров | 4× MI355X5 636 $/мес. | 2× MI355X2 818 $/мес. | 2× MI355X2 818 $/мес. | Больше одного сервера |
FP8 ≈ 1,2, 4-бит ≈ 0,65, QLoRA ≈ 0,75 и полное обучение ≈ 18 байт на параметр, доступно 92% видеопамяти GPU. Для других размеров и точностей используйте подбор GPU под модель.
Знаете свою модель? Подберите GPU.
Введите число параметров и точность — мы покажем все подходящие серверы, начиная с самого дешёвого.