BTC
ETH
USDT
XMR
LTC
Сравнение GPU · Blackwell vs Ada Lovelace
NVIDIA RTX PRO 6000 vs L40S.
Две PCIe-карты для дата-центров с ECC, разделённые поколением. У RTX PRO 6000 Server Edition (Blackwell) вдвое больше памяти (96 ГБ GDDR7 против 48 ГБ GDDR6), в 1,8 раза выше пропускная способность и есть тензорные ядра FP4 — всего на 170 $ дороже за GPU в месяц, то есть дешевле в расчёте на гигабайт. L40S (Ada Lovelace) — более низкая месячная цена для моделей, которые помещаются в 48 ГБ.
- 96 vs 48 ГБПамять GPU
- 1,6 vs 0,86 ТБ/спропускная способность памяти
- 959 $ vs 789 $за GPU в месяц
RTX PRO 6000 vs L40S: что арендовать.
Выберите RTX PRO 6000, если
- Вашей модели нужно больше 48 ГБ на GPU: в 96 ГБ помещается примерно 73B параметров в FP8, так что модель 70B умещается на одной карте.
- Важна скорость генерации токенов: пропускная способность памяти 1,6 ТБ/с против 864 ГБ/с.
- Вам нужен инференс в FP4 или максимум памяти за свои деньги: 9,99 $ за ГБ в месяц против 16,44 $.
Выберите L40S, если
- Ваши модели помещаются в 48 ГБ: примерно 36B параметров в FP8 или 67B в 4-битном режиме на карту.
- Вам нужна минимальная месячная цена за карту для дата-центров с ECC: 789 $ против 959 $.
- Вы запускаете много реплик небольшой модели, где цена за карту важнее объёма памяти на карту.
Характеристики RTX PRO 6000 vs L40S в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA RTX PRO 6000 | NVIDIA L40S | L40S / RTX PRO 6000 |
|---|---|---|---|
| Архитектура | Blackwell | Ada Lovelace | — |
| Форм-фактор | Серверная редакция, пассивная PCIe-карта | Двухслотовая PCIe-карта с пассивным охлаждением | — |
| Память GPU | 96 ГБ GDDR7 с ECC, 512-бит | 48 ГБ GDDR6 с ECC | 0,5× |
| Пропускная способность памяти | 1 597 ГБ/с | 864 ГБ/с | 0,54× |
| Соединение между GPU | Нет (PCIe 5.0 x16) | Нет (PCIe Gen4 x16) | — |
| FP4-тензор (плотный) | 4,0 PFLOPS | Не поддерживается | — |
| FP8-тензор (плотный) | 2 000 TFLOPS | 733 TFLOPS | 0,37× |
| FP16 / BF16-тензор (плотный) | 1 000 TFLOPS | 362 TFLOPS | 0,36× |
| FP64 | — | — | — |
| Максимальная мощность | До 600 Вт, настраивается | 350 Вт | — |
| GPU за сервер | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 24 vCPU · 180 ГБ ОЗУ · 1,92 ТБ | 12 vCPU · 96 ГБ ОЗУ · 1 ТБ | — |
NVIDIA не указывает, учитывают ли тензорные показатели RTX PRO 6000 Server Edition разрежённость. Источники: NVIDIA RTX PRO 6000, серверная редакция · NVIDIA L40S. Полные характеристики: RTX PRO 6000 · L40S
Цена аренды RTX PRO 6000 vs L40S.
В CryptGPU аренда RTX PRO 6000 стоит 959 $, а L40S — 789 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| CryptGPU | NVIDIA RTX PRO 6000 | NVIDIA L40S | L40S / RTX PRO 6000 |
|---|---|---|---|
| Цена за GPU в месяц | 959 $ | 789 $ | 0,82× |
| Эквивалент за GPU-час | 1,31 $ | 1,08 $ | — |
| За ГБ памяти GPU в месяц | 9,99 $ | 16,44 $ | 1,65× |
| За PFLOPS плотного FP8 в месяц | 480 $ | 1 076 $ | 2,2× |
| Наибольший сервер | 8× · 7 672 $/мес. | 8× · 6 312 $/мес. | — |
| Медиана рынка за GPU | 1 380 $ | 1 139 $ | — |
| Ниже медианы | −31% | −31% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер RTX PRO 6000 · Настроить сервер L40S
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | RTX PRO 6000 · FP8 | L40S · FP8 | RTX PRO 6000 · 4-бит | L40S · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 2× | 1× | 2× |
| gpt-oss-120b | 2× | 4× | 1× | 2× |
| DeepSeek-V4-Flash | 4× | 8× | 4× | 8× |
| Qwen3.5-397B-A17B | 8× | — | 4× | 8× |
| DeepSeek-R1 (671B) | — | — | 8× | — |
| Kimi K2.6 (1T) | — | — | 8× | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: RTX PRO 6000 vs L40S.
Подробнее о каждом GPU: NVIDIA RTX PRO 6000 · NVIDIA L40S.
Что быстрее для инференса LLM?
По характеристикам — RTX PRO 6000: в 1,8 раза выше пропускная способность памяти для генерации токенов и больше тензорной производительности, хотя NVIDIA не уточняет, учитывают ли её показатели для RTX PRO 6000 Server Edition разреженность. Реальная скорость зависит от модели и движка; мы не публикуем бенчмарки.
Что дешевле в пересчёте на ГБ памяти GPU?
RTX PRO 6000: 9,99 $ за ГБ в месяц против 16,44 $ у L40S.
Может ли модель 70B работать на одной карте?
На одной RTX PRO 6000 — да, в FP8: около 84 ГБ из 88 ГБ, доступных по нашему правилу. На одной L40S — нет: даже в 4-битном режиме ей нужно около 46 ГБ, больше 44 ГБ доступной памяти; две L40S её вмещают.
Другие сравнения GPU.
- Blackwell vs Blackwell RTX PRO 6000 vs RTX 5090 96 vs 32 ГБ · 1,6 ТБ/с vs 1,8 ТБ/с 959 $ vs 329 $/мес. за GPU
- Blackwell vs Hopper RTX PRO 6000 vs H100 96 vs 80 ГБ · 1,6 ТБ/с vs 3,35 ТБ/с 959 $ vs 1 779 $/мес. за GPU
- Ada Lovelace vs Hopper L40S vs H100 48 vs 80 ГБ · 864 ГБ/с vs 3,35 ТБ/с 789 $ vs 1 779 $/мес. за GPU
Арендуйте RTX PRO 6000 или L40S.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.