解决方案 · 图像与视频
面向图像与视频生成的 GPU 服务器。
在 GeForce 和 RTX PRO 显卡上按月运行扩散模型、视频模型、ComfyUI 工作流和批量渲染。
- 1× RTX 5090最佳搭配
- 32 GB显存
- $329每月
- $329 起最低价选择
图像和视频生成对 GPU 的要求。
- 1
高速 GDDR7 显存
扩散模型和视频模型在每一步都要搬运大量激活值:RTX 5090 上为 1.8 TB/s,RTX PRO 6000 上为 1.6 TB/s。
- 2
视频所需的充足显存
视频模型和高分辨率很快就会超过 24 GB。RTX 5090 有 32 GB,RTX PRO 6000 有 96 GB,L40S 有 48 GB。
- 3
低精度 Tensor Core
Blackwell 显卡支持 FP8 和 FP4,近期的扩散模型流水线正是用它们来加速推理。
最适合图像和视频生成的 GPU。
第一项是最佳选择;另外两项则在速度、显存或生态与价格之间做了取舍。
-
最佳配置
1× NVIDIA RTX 5090
32 GB GDDR7 · 每块 GPU 1.8 TB/s
- 互联方式
- 单 GPU
- vCPU · RAM
- 16 · 64 GB
- NVMe
- 1 TB
$329/月
$481 -
备选
1× NVIDIA RTX PRO 6000
96 GB GDDR7 ECC · 每块 GPU 1.6 TB/s
- 互联方式
- 单 GPU
- vCPU · RAM
- 24 · 180 GB
- NVMe
- 1.92 TB
$959/月
$1,380 -
备选
1× NVIDIA L40S
48 GB GDDR6 ECC · 每块 GPU 864 GB/s
- 互联方式
- 单 GPU
- vCPU · RAM
- 12 · 96 GB
- NVMe
- 1 TB
$789/月
$1,139
您的模型需要多大的服务器?
模型权重在 FP16/BF16 下每参数约 2.4 字节(已含余量)。分辨率、视频长度和批量大小会在此基础上增加激活值所需的显存。
| 模型规模 | FP16/BF16 推理 |
|---|---|
| 3B约 7 GB | 1× RTX 5080$199/月 |
| 8B约 19 GB | 1× RTX 4090$269/月 |
| 12B约 29 GB | 1× RTX 5090$329/月 |
| 14B约 34 GB | 2× RTX 4090$538/月 |
| 20B约 48 GB | 2× RTX 5090$658/月 |
| 32B约 77 GB | 1× RTX PRO 6000$959/月 |
按照我们的经验法则(92% 显存可用),能容纳该模型的最便宜配置。尝试其他规格 · 热门开放模型的显存需求
图像和视频生成软件及我们的建议。
- ComfyUI面向图像和视频扩散模型的基于节点的工作流。
- Hugging Face Diffusers面向扩散模型的 Python 流水线。
- PyTorch + xFormers / SDPA面向大分辨率的显存高效注意力机制。
- FFmpeg 配合 NVENC在 NVIDIA 显卡上进行硬件视频编码。
小贴士
- 为每块 GPU 运行一个工作进程,并通过队列向它们分发任务:吞吐量会随显卡数量增加而提升。
- 把模型检查点保存在本地 NVMe 上;从网络加载会拖慢每一次重启。
- 仅通过 SSH 隧道或经过身份验证的代理来开放 Web 界面。
小提示
对于生成任务,显存决定了您能运行什么模型,显存带宽决定了速度快慢。一台服务器里的多块显卡可以并行运行多个任务;单个图像生成任务很少会跨多块 GPU。
相关指南
- 在 GPU 服务器上部署 ComfyUI在您自己的 GPU 服务器上安装并运行 ComfyUI:使用 CUDA 13 版 PyTorch,把模型放在 NVMe 磁盘上,每块 GPU 运行一个 systemd 实例,并通过 SSH 隧道或带身份验证的代理远程访问。
- 在新 GPU 服务器上的第一个小时您的服务器会附带地址、SSH root 权限,以及您下单时选择的软件;其余的一切都由您自己决定。这第一个小时将涵盖登录、硬件检查、系统更新以及创建 sudo 用户。
- Docker 使用 GPU:NVIDIA 与 ROCm 容器容器可以让 CUDA、ROCm 和各种框架的版本都不必装在主机上。主机只需要 GPU 驱动、Docker,以及在使用 NVIDIA GPU 时所需的 NVIDIA Container Toolkit。
- 2026年 Stable Diffusion、Flux 与 AI 视频生成显卡推荐Stable Diffusion、Flux 和 AI 视频生成用什么显卡?FLUX、SD 3.5、Qwen-Image、Wan 2.2 和 LTX-2.5 的官方模型大小与显存需求,覆盖 RTX 5080 至 H200。
图像与视频相关问题。
其他工作负载:LLM 训练、微调、推理与服务、3D 渲染与 VFX、研究与 HPC。
选 RTX 5090 还是 RTX PRO 6000?
当模型能放进 32 GB 显存时,RTX 5090 的单张图像成本最低。RTX PRO 6000 采用同一代 GPU,配备 96 GB ECC 显存,适合大型视频模型或同时加载多个模型。
我可以运行 ComfyUI 并通过浏览器访问它吗?
可以:在服务器上启动它,然后按照 SSH 指南所述,通过 SSH 隧道打开。请避免将它直接暴露在公网上。
一台服务器最多能配备多少块显卡?
GeForce 服务器配备 1、2 或 4 块显卡;RTX PRO 6000 和 L40S 服务器配备 1、2、4 或 8 块。
