新品 NVIDIA B300 · 288 GB HBM3e 服务器 — 起价 $4,019/月 每块 GPU

查看 B300

解决方案 · 图像与视频

面向图像与视频生成的 GPU 服务器。

在 GeForce 和 RTX PRO 显卡上按月运行扩散模型、视频模型、ComfyUI 工作流和批量渲染。

  • 1× RTX 5090最佳搭配
  • 32 GB显存
  • $329每月
  • $329 起最低价选择

图像和视频生成对 GPU 的要求。

  1. 1

    高速 GDDR7 显存

    扩散模型和视频模型在每一步都要搬运大量激活值:RTX 5090 上为 1.8 TB/s,RTX PRO 6000 上为 1.6 TB/s。

  2. 2

    视频所需的充足显存

    视频模型和高分辨率很快就会超过 24 GB。RTX 5090 有 32 GB,RTX PRO 6000 有 96 GB,L40S 有 48 GB。

  3. 3

    低精度 Tensor Core

    Blackwell 显卡支持 FP8 和 FP4,近期的扩散模型流水线正是用它们来加速推理。

最适合图像和视频生成的 GPU。

第一项是最佳选择;另外两项则在速度、显存或生态与价格之间做了取舍。

  • 最佳配置

    1× NVIDIA RTX 5090

    32 GB GDDR7 · 每块 GPU 1.8 TB/s

    互联方式
    单 GPU
    vCPU · RAM
    16 · 64 GB
    NVMe
    1 TB

    $329/月$481

  • 备选

    1× NVIDIA RTX PRO 6000

    96 GB GDDR7 ECC · 每块 GPU 1.6 TB/s

    互联方式
    单 GPU
    vCPU · RAM
    24 · 180 GB
    NVMe
    1.92 TB

    $959/月$1,380

  • 备选

    1× NVIDIA L40S

    48 GB GDDR6 ECC · 每块 GPU 864 GB/s

    互联方式
    单 GPU
    vCPU · RAM
    12 · 96 GB
    NVMe
    1 TB

    $789/月$1,139

您的模型需要多大的服务器?

模型权重在 FP16/BF16 下每参数约 2.4 字节(已含余量)。分辨率、视频长度和批量大小会在此基础上增加激活值所需的显存。

按模型大小选择最便宜的图像和视频生成服务器
模型规模FP16/BF16 推理
3B约 7 GB 1× RTX 5080$199/月
8B约 19 GB 1× RTX 4090$269/月
12B约 29 GB 1× RTX 5090$329/月
14B约 34 GB 2× RTX 4090$538/月
20B约 48 GB 2× RTX 5090$658/月
32B约 77 GB 1× RTX PRO 6000$959/月

按照我们的经验法则(92% 显存可用),能容纳该模型的最便宜配置。尝试其他规格 · 热门开放模型的显存需求

图像和视频生成软件及我们的建议。

  • ComfyUI面向图像和视频扩散模型的基于节点的工作流。
  • Hugging Face Diffusers面向扩散模型的 Python 流水线。
  • PyTorch + xFormers / SDPA面向大分辨率的显存高效注意力机制。
  • FFmpeg 配合 NVENC在 NVIDIA 显卡上进行硬件视频编码。

小贴士

  • 为每块 GPU 运行一个工作进程,并通过队列向它们分发任务:吞吐量会随显卡数量增加而提升。
  • 把模型检查点保存在本地 NVMe 上;从网络加载会拖慢每一次重启。
  • 仅通过 SSH 隧道或经过身份验证的代理来开放 Web 界面。

小提示

对于生成任务,显存决定了您能运行什么模型,显存带宽决定了速度快慢。一台服务器里的多块显卡可以并行运行多个任务;单个图像生成任务很少会跨多块 GPU。

图像与视频相关问题。

其他工作负载:LLM 训练、微调、推理与服务、3D 渲染与 VFX、研究与 HPC。

选 RTX 5090 还是 RTX PRO 6000?

当模型能放进 32 GB 显存时,RTX 5090 的单张图像成本最低。RTX PRO 6000 采用同一代 GPU,配备 96 GB ECC 显存,适合大型视频模型或同时加载多个模型。

我可以运行 ComfyUI 并通过浏览器访问它吗?

可以:在服务器上启动它,然后按照 SSH 指南所述,通过 SSH 隧道打开。请避免将它直接暴露在公网上。

一台服务器最多能配备多少块显卡?

GeForce 服务器配备 1、2 或 4 块显卡;RTX PRO 6000 和 L40S 服务器配备 1、2、4 或 8 块。

先从 1× RTX 5090 开始。

NVIDIA RTX 5090,32 GB 显存,每月 $329。

客户中心

登录 CryptGPU

您的订单、账单和服务器,一站式管理。

还没有 CryptGPU 账户?

账户是在结账时创建的:先选择您的服务器和软件,然后在首次下单的账户步骤中创建账户。

部署服务器