BTC
ETH
USDT
XMR
LTC
Сравнение GPU · Ada Lovelace vs Hopper
NVIDIA RTX 4090 vs H100.
Карта GeForce против GPU Hopper для дата-центров. У H100 SXM в 3,3 раза больше памяти (80 ГБ HBM3 против 24 ГБ GDDR6X), в 3,3 раза выше пропускная способность, примерно в 6 раз выше плотная производительность FP8 и BF16, а GPU связаны через NVLink. RTX 4090 стоит меньше шестой части этой цены: 269 $ против 1 779 $ за GPU в месяц.
- 24 vs 80 ГБПамять GPU
- 1,01 vs 3,35 ТБ/спропускная способность памяти
- 269 $ vs 1 779 $за GPU в месяц
RTX 4090 vs H100: что арендовать.
Выберите RTX 4090, если
- Ваша модель помещается в 24 ГБ на карту: по нашему правилу оценки размера — примерно 18B параметров в FP8 или 34B в 4-битном режиме.
- Вы генерируете изображения, занимаетесь рендерингом или делаете прототип перед масштабированием — там, где хватает 24 ГБ на карту.
- Цена на первом месте: четыре RTX 4090 (1 076 $ в месяц) стоят дешевле одной H100.
Выберите H100, если
- Вашей модели нужно больше 24 ГБ на GPU: одна H100 вмещает примерно 61B параметров в FP8 или модель 70B в 4-битном режиме (около 46 ГБ).
- Вы обучаете или дообучаете модели на нескольких GPU: NVLink 4 связывает H100 на скорости 900 ГБ/с на GPU, а карты GeForce обмениваются данными через PCIe.
- Вам нужна память с ECC, FP64 для научных расчётов или максимальная производительность на GPU.
Характеристики RTX 4090 vs H100 в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA RTX 4090 | NVIDIA H100 | H100 / RTX 4090 |
|---|---|---|---|
| Архитектура | Ada Lovelace, TSMC 4N | Hopper, TSMC 4N | — |
| Форм-фактор | Видеокарта PCIe Gen4 | Модуль SXM5 | — |
| Память GPU | 24 ГБ GDDR6X, 384-бит | 80 ГБ HBM3, 5 120-бит | 3,3× |
| Пропускная способность памяти | 1 008 ГБ/с | 3,35 ТБ/с | 3,3× |
| Соединение между GPU | Нет (PCIe Gen4) | NVLink 4, 900 ГБ/с на GPU | — |
| FP4-тензор (плотный) | Не поддерживается | Не поддерживается | — |
| FP8-тензор (плотный) | 330 TFLOPS | 1 979 TFLOPS | 6× |
| FP16 / BF16-тензор (плотный) | 165 TFLOPS | 989 TFLOPS | 6× |
| FP64 | — | 34 / 67 TFLOPS | — |
| Максимальная мощность | 450 Вт | До 700 Вт, настраивается | — |
| GPU за сервер | 1, 2, 4 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 12 vCPU · 64 ГБ ОЗУ · 1 ТБ | 20 vCPU · 200 ГБ ОЗУ · 2 ТБ | — |
Источники: NVIDIA GeForce RTX 4090 · Техническое описание архитектуры Ada · NVIDIA H100. Полные характеристики: RTX 4090 · H100
Цена аренды RTX 4090 vs H100.
В CryptGPU аренда RTX 4090 стоит 269 $, а H100 — 1 779 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| CryptGPU | NVIDIA RTX 4090 | NVIDIA H100 | H100 / RTX 4090 |
|---|---|---|---|
| Цена за GPU в месяц | 269 $ | 1 779 $ | 6,6× |
| Эквивалент за GPU-час | 0,37 $ | 2,44 $ | — |
| За ГБ памяти GPU в месяц | 11,21 $ | 22,24 $ | 1,98× |
| За PFLOPS плотного FP8 в месяц | 815 $ | 899 $ | 1,1× |
| Наибольший сервер | 4× · 1 076 $/мес. | 8× · 14 232 $/мес. | — |
| Медиана рынка за GPU | 387 $ | 2 548 $ | — |
| Ниже медианы | −30% | −30% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер RTX 4090 · Настроить сервер H100
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | RTX 4090 · FP8 | H100 · FP8 | RTX 4090 · 4-бит | H100 · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 2× | 1× | 1× | 1× |
| Llama 3.3 70B | 4× | 2× | 4× | 1× |
| gpt-oss-120b | — | 2× | 4× | 2× |
| DeepSeek-V4-Flash | — | 8× | — | 4× |
| Qwen3.5-397B-A17B | — | 8× | — | 4× |
| DeepSeek-R1 (671B) | — | — | — | 8× |
| Kimi K2.6 (1T) | — | — | — | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: RTX 4090 vs H100.
Подробнее о каждом GPU: NVIDIA RTX 4090 · NVIDIA H100.
Может ли RTX 4090 заменить H100?
Для моделей, которые помещаются в 24 ГБ, и для генерации изображений — часто да, и за долю цены. Для более крупных моделей, обучения на нескольких GPU, памяти с ECC или расчётов в FP64 правильный выбор — H100.
Сколько RTX 4090 нужно, чтобы сравняться с H100 по памяти?
Четыре RTX 4090 — самый большой сервер GeForce — дают 96 ГБ (около 88 ГБ доступно) за 1 076 $ в месяц против 80 ГБ за 1 779 $ у одной H100. Четыре карты делят работу через PCIe, а он медленнее NVLink.
Что быстрее для инференса LLM?
В расчёте на GPU — H100: в 3,3 раза выше пропускная способность памяти, которая ограничивает генерацию токенов, и примерно в 6 раз выше плотная производительность FP8, которая ускоряет обработку промпта. Реальная скорость зависит от модели, точности и движка; мы не публикуем бенчмарки.
Другие сравнения GPU.
Арендуйте RTX 4090 или H100.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.