NVIDIA · Blackwell Ultra
B300
新品288 GB HBM3e
- 带宽
- 8 TB/s
- 互联
- NVLink 5
- 服务器
- 1–8 块 GPU
前沿模型训练、400B+ 推理、长上下文
新品 NVIDIA B300 — 起价 $4,019/月
查看 B300菜单
按系列筛选。点击卡片可查看完整规格、所有服务器规格及该 GPU 的市场对比。
NVIDIA · Blackwell Ultra
288 GB HBM3e
前沿模型训练、400B+ 推理、长上下文
NVIDIA · Blackwell
180 GB HBM3e
大规模训练与高吞吐推理
AMD · CDNA 4
288 GB HBM3E
高显存需求推理、ROCm 训练、FP64 科学计算
NVIDIA · Hopper
141 GB HBM3e
单块 GPU 运行 70B 级模型、微调、推理服务
NVIDIA · Hopper
80 GB HBM3
值得信赖的训练与推理主力
NVIDIA · Blackwell
96 GB GDDR7 ECC
每卡 96 GB,适用于推理、微调、渲染
NVIDIA · Ada Lovelace
48 GB GDDR6 ECC
高性价比推理、扩散模型、视频流水线
NVIDIA · Blackwell
32 GB GDDR7
图像与视频生成、3D 渲染、开发主机
NVIDIA · Ada Lovelace
24 GB GDDR6X
经济型推理、Stable Diffusion、渲染
NVIDIA · Blackwell
16 GB GDDR7
入门级 GPU,适合小模型、CI、开发、视频编码
可按价格、显存、带宽或每 GB 显存价格排序。价格为每块 GPU 每月价格;n 块 GPU 的服务器价格为单价的 n 倍。
| 互联方式 | 精度 | GPU 数 / 服务器 | 市场中位价 | |||||
|---|---|---|---|---|---|---|---|---|
| NVIDIA B300Blackwell Ultra | 288 GBHBM3e | 8 TB/s | NVLink 5 · 1.8 TB/s | FP4 · FP8 · BF16 | 1–8 | $4,019 | $13.95 | |
| NVIDIA B200Blackwell | 180 GBHBM3e | 8 TB/s | NVLink 5 · 1.8 TB/s | FP4 · FP8 · BF16 | 1–8 | $3,439 | $19.11 | |
| AMD MI355XCDNA 4 | 288 GBHBM3E | 8 TB/s | Infinity Fabric · 1.07 TB/s | FP4 · FP6 · FP8 | 1–8 | $1,409 | $4.89 | |
| NVIDIA H200Hopper | 141 GBHBM3e | 4.8 TB/s | NVLink 4 · 900 GB/s | FP8 · BF16 · FP64 | 1–8 | $2,279 | $16.16 | |
| NVIDIA H100Hopper | 80 GBHBM3 | 3.35 TB/s | NVLink 4 · 900 GB/s | FP8 · BF16 · FP64 | 1–8 | $1,779 | $22.24 | |
| NVIDIA RTX PRO 6000Blackwell | 96 GBGDDR7 ECC | 1.6 TB/s | PCIe Gen5 x16 | FP4 · FP8 · BF16 | 1–8 | $959 | $9.99 | |
| NVIDIA L40SAda Lovelace | 48 GBGDDR6 ECC | 864 GB/s | PCIe Gen4 x16 | FP8 · BF16 | 1–8 | $789 | $16.44 | |
| NVIDIA RTX 5090Blackwell | 32 GBGDDR7 | 1.8 TB/s | PCIe Gen5 x16 | FP4 · FP8 · BF16 | 1–4 | $329 | $10.28 | |
| NVIDIA RTX 4090Ada Lovelace | 24 GBGDDR6X | 1 TB/s | PCIe Gen4 x16 | FP8 · BF16 | 1–4 | $269 | $11.21 | |
| NVIDIA RTX 5080Blackwell | 16 GBGDDR7 | 960 GB/s | PCIe Gen5 x16 | FP4 · FP8 · BF16 | 1–4 | $199 | $12.44 |
$ / GB = 每 GB 显存的月租价格。市场中位价 = 综合 40 家 GPU 云的每块 GPU 公开按需标价中位数,2026年9月23日 × 730 小时计算得出。查看完整市场对比
三个问题即可决定大多数选择,下表展示各 GPU 的最佳适用场景。
模型权重、KV 缓存和激活值都必须能放入 GPU 显存。RTX 5080 为 16 GB,B300 和 MI355X 单卡最高 288 GB,8 卡服务器可达 2.3 TB。为模型选型
生成 token 和图像的速度大多受显存带宽限制:HBM 旗舰型号最高 8 TB/s,RTX PRO 6000 和 RTX 5090 为 1.6 至 1.8 TB/s,L40S 和 RTX 5080 则低于 1 TB/s。
分片训练在每一步都需要在 GPU 之间交换数据:NVLink(900 GB/s–1.8 TB/s)和 Infinity Fabric 正是为此而设计。PCIe 显卡则更适合独立任务和推理。
账单和付款相关问题请参见完整常见问题。
先看显存:模型本身、上下文和批次都必须能放入 GPU 显存。然后再看显存带宽,它决定了生成 token 或图像的速度;如果要在多块 GPU 上训练,还要考虑互联方式。选型助手会列出适合指定模型的所有配置,并按价格从低到高排序。
B300、B200、MI355X、H200 和 H100 采用堆叠式 HBM 显存(3.35 至 8 TB/s),并通过 NVLink 或 Infinity Fabric 在服务器内的多块 GPU 之间高速互联。RTX PRO 6000、L40S 和 GeForce 显卡则采用 GDDR 显存,通过 PCIe 相互通信。HBM 平台在训练和超大模型上速度更快;PCIe 显卡在推理服务、生成和渲染方面则便宜得多。
它们在图像和视频生成、渲染、开发以及较小模型上速度快、性价比高。但没有 ECC 显存,也没有 NVLink,且每台服务器最多支持四块显卡。如果需要长时间运行且要求 ECC 显存的服务,请选择 RTX PRO 6000 或 L40S。
可以:下单新的配置,迁移数据,然后让旧服务器的租期自然到期即可。每台服务器的月度租期是独立计算的;在服务器之间迁移数据由您自行负责。
产品线聚焦于当前这一代架构:Blackwell、Blackwell Ultra、Hopper、CDNA 4,以及最新的 GeForce 和 RTX PRO 显卡。L40S 和 RTX 4090(Ada Lovelace)作为性价比选项仍保留在产品线中。