Новинка NVIDIA B300 · серверы 288 ГБ HBM3e — от 4 019 $/мес. за GPU

Посмотреть B300

Решения · Изображения и видео

GPU-серверы для генерации изображений и видео.

Диффузионные и видеомодели, ComfyUI-воркфлоу и пакетный рендер на GeForce и RTX PRO — помесячно.

  • 1× RTX 5090оптимальный вариант
  • 32 ГБПамять GPU
  • 329 $в месяц
  • От 329 $самый дешёвый вариант

Что нужно GPU для генерации изображений и видео.

  1. 1

    Быстрая память GDDR7

    Диффузионные и видеомодели перемещают большие активации на каждом шаге: 1,8 ТБ/с на RTX 5090 и 1,6 ТБ/с на RTX PRO 6000.

  2. 2

    Достаточно видеопамяти для видео

    Видеомодели и высокие разрешения быстро превышают 24 ГБ. У RTX 5090 — 32 ГБ, у RTX PRO 6000 — 96 ГБ, у L40S — 48 ГБ.

  3. 3

    Тензорные ядра для низкой точности

    Карты Blackwell поддерживают FP8 и FP4, которые современные диффузионные пайплайны используют для ускорения инференса.

Лучшие GPU для генерации изображений и видео.

Первый вариант подходит лучше всего; два других жертвуют скоростью, памятью или экосистемой ради цены.

Какой размер сервера нужен для вашей модели?

Веса модели в FP16/BF16 занимают ≈2,4 байта на параметр с запасом. Разрешение, длина видео и размер батча добавляют сверху память активаций.

Самый дешёвый сервер по размеру модели для генерации изображений и видео
Размер моделиИнференс FP16 / BF16
3B≈ 7 ГБ 1× RTX 5080199 $/мес.
8B≈ 19 ГБ 1× RTX 4090269 $/мес.
12B≈ 29 ГБ 1× RTX 5090329 $/мес.
14B≈ 34 ГБ 2× RTX 4090538 $/мес.
20B≈ 48 ГБ 2× RTX 5090658 $/мес.
32B≈ 77 ГБ 1× RTX PRO 6000959 $/мес.

Самая дешёвая конфигурация, вмещающая модель по нашей приближённой оценке — доступно 92% видеопамяти. Попробуйте другие размеры · Видеопамять популярных открытых моделей

ПО для генерации изображений и видео, и наши советы.

  • ComfyUIНодовые воркфлоу для диффузионных моделей изображений и видео.
  • Hugging Face DiffusersPython-пайплайны для диффузионных моделей.
  • PyTorch + xFormers / SDPAЭкономичное по памяти внимание для больших разрешений.
  • FFmpeg с NVENCАппаратное кодирование видео на картах NVIDIA.

Советы

  • Запускайте по одному воркеру на GPU и подавайте им задачи из очереди: производительность растёт с числом карт.
  • Храните чекпоинты моделей на локальном NVMe: загрузка по сети замедляет каждый перезапуск.
  • Открывайте веб-интерфейсы наружу только через SSH-туннель или прокси с аутентификацией.

Важно знать

Для генерации объём видеопамяти определяет, что вы можете запустить, а пропускная способность памяти — насколько быстро. Несколько карт в одном сервере параллельно выполняют несколько задач; одна задача генерации изображения редко занимает несколько GPU одновременно.

Похожие руководства

Изображения и видео: вопросы и ответы.

Другие нагрузки: Обучение LLM, Дообучение, Инференс и развёртывание, 3D-рендеринг и VFX, Исследования и HPC.

RTX 5090 или RTX PRO 6000?

RTX 5090 даёт лучшую цену за изображение, если модель помещается в 32 ГБ. RTX PRO 6000 — GPU того же поколения с 96 ГБ ECC-памяти для крупных видеомоделей или одновременной загрузки нескольких моделей.

Можно ли запустить ComfyUI и открыть его в браузере?

Да: запустите его на сервере и откройте через SSH-туннель, как описано в руководстве по SSH. Не открывайте его напрямую в интернет.

Сколько карт может быть в сервере?

Серверы на GeForce поставляются с 1, 2 или 4 картами; серверы на RTX PRO 6000 и L40S — с 1, 2, 4 или 8.

Начните с 1× RTX 5090.

NVIDIA RTX 5090, 32 ГБ видеопамяти, за 329 $ в месяц.

Личный кабинет

Войти в CryptGPU

Ваши заказы, счета и серверы в одном месте.

Новичок в CryptGPU?

Аккаунты создаются при оформлении заказа: выберите сервер и программное обеспечение, затем создайте аккаунт на шаге Аккаунт первого заказа.

Запустить сервер