Сравнение GPU · Blackwell vs Hopper
NVIDIA RTX PRO 6000 vs H100.
Два способа получить 80–96 ГБ на GPU. RTX PRO 6000 (Blackwell, PCIe) даёт больше памяти, FP4 и RT-ядра примерно за половину цены; H100 SXM (Hopper) даёт вдвое более высокую пропускную способность памяти и NVLink между GPU, что важно для обучения на нескольких GPU.
- 96 vs 80 ГБПамять GPU
- 1,6 vs 3,35 ТБ/спропускная способность памяти
- 959 $ vs 1 779 $за GPU в месяц
RTX PRO 6000 vs H100: что арендовать.
Выберите RTX PRO 6000, если
- Вы запускаете инференс или дообучение на одном GPU: 96 ГБ вмещают модель 70B в FP8 на одной карте.
- Вам нужны инференс FP4, рендеринг или видеодвижки на одной карте.
- Цена имеет значение: 959 $ за GPU против 1 779 $ в месяц.
Выберите H100, если
- Вы обучаете модели на нескольких GPU: NVLink 4 передаёт 900 ГБ/с на GPU; RTX PRO 6000 работает через PCIe.
- Скорость определяется пропускной способностью памяти: 3,35 ТБ/с против 1,6 ТБ/с.
- Вам нужен самый зрелый программный стек для LLM, оптимизированный для Hopper.
Характеристики RTX PRO 6000 vs H100 в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA RTX PRO 6000 | NVIDIA H100 | H100 / RTX PRO 6000 |
|---|---|---|---|
| Архитектура | Blackwell | Hopper, TSMC 4N | — |
| Форм-фактор | Серверная редакция, пассивная PCIe-карта | Модуль SXM5 | — |
| Память GPU | 96 ГБ GDDR7 с ECC, 512-бит | 80 ГБ HBM3, 5 120-бит | 0,83× |
| Пропускная способность памяти | 1 597 ГБ/с | 3,35 ТБ/с | 2,1× |
| Соединение между GPU | Нет (PCIe 5.0 x16) | NVLink 4, 900 ГБ/с на GPU | — |
| FP4-тензор (плотный) | 4,0 PFLOPS | Не поддерживается | — |
| FP8-тензор (плотный) | 2 000 TFLOPS | 1 979 TFLOPS | Одинаково |
| FP16 / BF16-тензор (плотный) | 1 000 TFLOPS | 989 TFLOPS | Одинаково |
| FP64 | — | 34 / 67 TFLOPS | — |
| Максимальная мощность | До 600 Вт, настраивается | До 700 Вт, настраивается | — |
| GPU за сервер | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 24 vCPU · 180 ГБ ОЗУ · 1,92 ТБ | 20 vCPU · 200 ГБ ОЗУ · 2 ТБ | — |
NVIDIA не указывает, учитывают ли тензорные показатели RTX PRO 6000 Server Edition разрежённость. Источники: NVIDIA RTX PRO 6000, серверная редакция · NVIDIA H100. Полные характеристики: RTX PRO 6000 · H100
Цена аренды RTX PRO 6000 vs H100.
В CryptGPU аренда RTX PRO 6000 стоит 959 $, а H100 — 1 779 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| CryptGPU | NVIDIA RTX PRO 6000 | NVIDIA H100 | H100 / RTX PRO 6000 |
|---|---|---|---|
| Цена за GPU в месяц | 959 $ | 1 779 $ | 1,86× |
| Эквивалент за GPU-час | 1,31 $ | 2,44 $ | — |
| За ГБ памяти GPU в месяц | 9,99 $ | 22,24 $ | 2,2× |
| За PFLOPS плотного FP8 в месяц | 480 $ | 899 $ | 1,87× |
| Наибольший сервер | 8× · 7 672 $/мес. | 8× · 14 232 $/мес. | — |
| Медиана рынка за GPU | 1 380 $ | 2 548 $ | — |
| Ниже медианы | −31% | −30% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер RTX PRO 6000 · Настроить сервер H100
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | RTX PRO 6000 · FP8 | H100 · FP8 | RTX PRO 6000 · 4-бит | H100 · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 2× | 1× | 1× |
| gpt-oss-120b | 2× | 2× | 1× | 2× |
| DeepSeek-V4-Flash | 4× | 8× | 4× | 4× |
| Qwen3.5-397B-A17B | 8× | 8× | 4× | 4× |
| DeepSeek-R1 (671B) | — | — | 8× | 8× |
| Kimi K2.6 (1T) | — | — | 8× | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: RTX PRO 6000 vs H100.
Подробнее о каждом GPU: NVIDIA RTX PRO 6000 · NVIDIA H100.
Может ли RTX PRO 6000 заменить H100 для инференса?
Часто да: у неё больше памяти (96 ГБ против 80 ГБ) и FP4 примерно за половину цены. H100 генерирует токены быстрее на GPU там, где ограничением является пропускная способность, и лучше масштабируется на нескольких GPU.
Что лучше для обучения?
H100 — для обучения на нескольких GPU благодаря NVLink и пропускной способности HBM. RTX PRO 6000 подходит для дообучения (LoRA, QLoRA) больших моделей на одном GPU.
Сопоставимы ли тензорные показатели?
Не совсем: NVIDIA не указывает, учитывают ли показатели RTX PRO 6000 Server Edition разрежённость, тогда как показатели H100, которые мы приводим, — плотные. Сначала сравнивайте память и пропускную способность.
Другие сравнения GPU.
Арендуйте RTX PRO 6000 или H100.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.
