BTC
ETH
USDT
XMR
LTC
Сравнение GPU · Ada Lovelace vs Ada Lovelace
NVIDIA L40S vs RTX 4090.
Два GPU Ada Lovelace. L40S — карта для дата-центров: 48 ГБ GDDR6 с ECC, примерно в 2,2 раза выше плотная производительность FP8 и серверы до 8 GPU. У GeForce RTX 4090 — 24 ГБ, немного выше пропускная способность памяти (1,01 против 0,86 ТБ/с), и стоит она примерно в три раза дешевле: 269 $ против 789 $ за GPU в месяц.
- 48 vs 24 ГБПамять GPU
- 0,86 vs 1,01 ТБ/спропускная способность памяти
- 789 $ vs 269 $за GPU в месяц
L40S vs RTX 4090: что арендовать.
Выберите L40S, если
- Вашей модели нужно больше 24 ГБ на GPU: по нашему правилу оценки размера в 48 ГБ помещается примерно 36B параметров в FP8 или 67B в 4-битном режиме.
- Вам нужна память с ECC или сервер с 8 GPU: серверы GeForce ограничены 4 картами.
- Вы обслуживаете большой поток запросов в FP8: 733 TFLOPS плотной тензорной производительности FP8 против 330 у RTX 4090.
Выберите RTX 4090, если
- Ваша модель помещается в 24 ГБ: примерно 18B параметров в FP8 или 34B в 4-битном режиме на карту.
- Вам нужны те же 48 ГБ дешевле: две RTX 4090 стоят 538 $ в месяц против 789 $ за одну L40S, но память разделена между двумя картами.
- Вашу нагрузку ограничивает пропускная способность памяти, а не тензорная производительность, — например, генерация токенов для одного пользователя на модели, которая помещается в память.
Характеристики L40S vs RTX 4090 в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA L40S | NVIDIA RTX 4090 | RTX 4090 / L40S |
|---|---|---|---|
| Архитектура | Ada Lovelace | Ada Lovelace, TSMC 4N | — |
| Форм-фактор | Двухслотовая PCIe-карта с пассивным охлаждением | Видеокарта PCIe Gen4 | — |
| Память GPU | 48 ГБ GDDR6 с ECC | 24 ГБ GDDR6X, 384-бит | 0,5× |
| Пропускная способность памяти | 864 ГБ/с | 1 008 ГБ/с | 1,17× |
| Соединение между GPU | Нет (PCIe Gen4 x16) | Нет (PCIe Gen4) | — |
| FP4-тензор (плотный) | Не поддерживается | Не поддерживается | — |
| FP8-тензор (плотный) | 733 TFLOPS | 330 TFLOPS | 0,45× |
| FP16 / BF16-тензор (плотный) | 362 TFLOPS | 165 TFLOPS | 0,46× |
| FP64 | — | — | — |
| Максимальная мощность | 350 Вт | 450 Вт | — |
| GPU за сервер | 1, 2, 4, 8 | 1, 2, 4 | — |
| На GPU в наших серверах | 12 vCPU · 96 ГБ ОЗУ · 1 ТБ | 12 vCPU · 64 ГБ ОЗУ · 1 ТБ | — |
Источники: NVIDIA L40S · NVIDIA GeForce RTX 4090 · Техническое описание архитектуры Ada. Полные характеристики: L40S · RTX 4090
Цена аренды L40S vs RTX 4090.
В CryptGPU аренда L40S стоит 789 $, а RTX 4090 — 269 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| CryptGPU | NVIDIA L40S | NVIDIA RTX 4090 | RTX 4090 / L40S |
|---|---|---|---|
| Цена за GPU в месяц | 789 $ | 269 $ | 0,34× |
| Эквивалент за GPU-час | 1,08 $ | 0,37 $ | — |
| За ГБ памяти GPU в месяц | 16,44 $ | 11,21 $ | 0,68× |
| За PFLOPS плотного FP8 в месяц | 1 076 $ | 815 $ | 0,76× |
| Наибольший сервер | 8× · 6 312 $/мес. | 4× · 1 076 $/мес. | — |
| Медиана рынка за GPU | 1 139 $ | 387 $ | — |
| Ниже медианы | −31% | −30% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер L40S · Настроить сервер RTX 4090
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | L40S · FP8 | RTX 4090 · FP8 | L40S · 4-бит | RTX 4090 · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 2× | 1× | 1× |
| Llama 3.3 70B | 2× | 4× | 2× | 4× |
| gpt-oss-120b | 4× | — | 2× | 4× |
| DeepSeek-V4-Flash | 8× | — | 8× | — |
| Qwen3.5-397B-A17B | — | — | 8× | — |
| DeepSeek-R1 (671B) | — | — | — | — |
| Kimi K2.6 (1T) | — | — | — | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: L40S vs RTX 4090.
Подробнее о каждом GPU: NVIDIA L40S · NVIDIA RTX 4090.
Почему L40S дороже RTX 4090?
Это карта для дата-центров: вдвое больше памяти с ECC, пассивное охлаждение для плотных серверов, примерно в 2,2 раза выше плотная производительность FP8 и серверы до 8 GPU. Цену на обе карты мы ставим на 30% ниже их собственной медианы рынка.
Подходит ли RTX 4090 для инференса?
Для моделей, которые помещаются в 24 ГБ, — да: одна карта вмещает модель примерно на 18B в FP8 или 34B в 4-битном режиме. У неё нет ECC, а её серверы ограничены 4 картами.
Обе поддерживают FP8?
Да. Обе — GPU Ada Lovelace с тензорными ядрами FP8, поэтому движки вроде vLLM могут запускать чекпойнты FP8 на любой из них. FP4 не поддерживает ни одна.
Другие сравнения GPU.
- Ada Lovelace vs Hopper RTX 4090 vs H100 24 vs 80 ГБ · 1 ТБ/с vs 3,35 ТБ/с 269 $ vs 1 779 $/мес. за GPU
- Blackwell vs Ada Lovelace RTX 5090 vs RTX 4090 32 vs 24 ГБ · 1,8 ТБ/с vs 1 ТБ/с 329 $ vs 269 $/мес. за GPU
- Blackwell vs Ada Lovelace RTX 5080 vs RTX 4090 16 vs 24 ГБ · 960 ГБ/с vs 1 ТБ/с 199 $ vs 269 $/мес. за GPU
Арендуйте L40S или RTX 4090.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.