BTC
ETH
USDT
XMR
LTC
Сравнение GPU · Ada Lovelace vs Hopper
NVIDIA L40S vs H100.
Карта для инференса на PCIe против обучающего GPU на SXM. L40S (Ada Lovelace) даёт 48 ГБ GDDR6 с ECC, FP8, RT-ядра и видеодвижки менее чем за половину цены H100, у которой 80 ГБ HBM3 на 3,35 ТБ/с и NVLink.
- 48 vs 80 ГБПамять GPU
- 0,86 vs 3,35 ТБ/спропускная способность памяти
- 789 $ vs 1 779 $за GPU в месяц
L40S vs H100: что арендовать.
Выберите L40S, если
- Вы запускаете инференс моделей размером до примерно 30B параметров в FP8 или используете пайплайны диффузионных моделей и видео.
- Вам нужна графика, а не только ИИ: RT-ядра и аппаратное кодирование и декодирование видео.
- Цена имеет значение: 789 $ за GPU против 1 779 $ в месяц.
Выберите H100, если
- Вы обучаете или дообучаете модели на нескольких GPU: NVLink 4 и 3,35 ТБ/с HBM3.
- Вы запускаете инференс более крупных моделей: 80 ГБ на GPU и почти в 4 раза выше пропускная способность.
- Вам нужен FP64 для симуляций.
Характеристики L40S vs H100 в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA L40S | NVIDIA H100 | H100 / L40S |
|---|---|---|---|
| Архитектура | Ada Lovelace | Hopper, TSMC 4N | — |
| Форм-фактор | Двухслотовая PCIe-карта с пассивным охлаждением | Модуль SXM5 | — |
| Память GPU | 48 ГБ GDDR6 с ECC | 80 ГБ HBM3, 5 120-бит | 1,67× |
| Пропускная способность памяти | 864 ГБ/с | 3,35 ТБ/с | 3,9× |
| Соединение между GPU | Нет (PCIe Gen4 x16) | NVLink 4, 900 ГБ/с на GPU | — |
| FP4-тензор (плотный) | Не поддерживается | Не поддерживается | — |
| FP8-тензор (плотный) | 733 TFLOPS | 1 979 TFLOPS | 2,7× |
| FP16 / BF16-тензор (плотный) | 362 TFLOPS | 989 TFLOPS | 2,7× |
| FP64 | — | 34 / 67 TFLOPS | — |
| Максимальная мощность | 350 Вт | До 700 Вт, настраивается | — |
| GPU за сервер | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 12 vCPU · 96 ГБ ОЗУ · 1 ТБ | 20 vCPU · 200 ГБ ОЗУ · 2 ТБ | — |
Источники: NVIDIA L40S · NVIDIA H100. Полные характеристики: L40S · H100
Цена аренды L40S vs H100.
В CryptGPU аренда L40S стоит 789 $, а H100 — 1 779 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| CryptGPU | NVIDIA L40S | NVIDIA H100 | H100 / L40S |
|---|---|---|---|
| Цена за GPU в месяц | 789 $ | 1 779 $ | 2,3× |
| Эквивалент за GPU-час | 1,08 $ | 2,44 $ | — |
| За ГБ памяти GPU в месяц | 16,44 $ | 22,24 $ | 1,35× |
| За PFLOPS плотного FP8 в месяц | 1 076 $ | 899 $ | 0,84× |
| Наибольший сервер | 8× · 6 312 $/мес. | 8× · 14 232 $/мес. | — |
| Медиана рынка за GPU | 1 139 $ | 2 548 $ | — |
| Ниже медианы | −31% | −30% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер L40S · Настроить сервер H100
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | L40S · FP8 | H100 · FP8 | L40S · 4-бит | H100 · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 2× | 2× | 2× | 1× |
| gpt-oss-120b | 4× | 2× | 2× | 2× |
| DeepSeek-V4-Flash | 8× | 8× | 8× | 4× |
| Qwen3.5-397B-A17B | — | 8× | 8× | 4× |
| DeepSeek-R1 (671B) | — | — | — | 8× |
| Kimi K2.6 (1T) | — | — | — | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: L40S vs H100.
Подробнее о каждом GPU: NVIDIA L40S · NVIDIA H100.
Хорошо ли L40S подходит для инференса LLM?
Для моделей, которые помещаются в 48 ГБ, — да: тензорные ядра FP8 и память ECC по низкой цене. При пропускной способности 864 ГБ/с она генерирует токены медленнее, чем GPU с HBM, на больших моделях.
Насколько L40S дешевле?
990 $ дешевле за GPU в месяц: 789 $ против 1 779 $.
Может ли L40S обучать модели?
Она может дообучать небольшие модели, но у неё нет NVLink и меньше пропускная способность: для обучения на нескольких GPU правильным выбором будут H100 или более новые GPU с HBM.
Другие сравнения GPU.
Арендуйте L40S или H100.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.