H200 vs B200:该租哪一款。
适合 H200 的场景
- 您的模型能放进单块 GPU 的 141 GB 显存,且 H200 的速度足以应付您的流量。
- 您的仿真计算依赖 FP64 张量运算(Hopper 上为 67 TFLOPS)。
- 您想要更低的月租价格:每块 GPU $2,279 对比 $3,439。
适合 B200 的场景
- 您需要更高的吞吐量:单块 GPU 密集 FP8 吞吐量为 4.5 PFLOPS,对比 1.98 PFLOPS,显存带宽为 1.7 倍。
- 您需要 FP4 推理,而 Hopper 并不支持。
- 您需要跨 8 块 GPU 训练:NVLink 5 每块 GPU 可传输 1.8 TB/s,是 NVLink 4 的两倍。
H200 vs B200:规格并列对比。
数据均引自 NVIDIA 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。
| 每块 GPU | NVIDIA H200 | NVIDIA B200 | B200 / H200 |
|---|---|---|---|
| 架构 | Hopper | Blackwell, TSMC 4NP | — |
| 外形规格 | SXM 模组 | SXM 模组(HGX B200) | — |
| 显存 | 141 GB HBM3e | 180 GB HBM3e | 1.28× |
| 显存带宽 | 4.8 TB/s | 最高 8 TB/s | 1.67× |
| GPU 间互联 | NVLink 4,每块 GPU 900 GB/s | NVLink 5,每块 GPU 1.8 TB/s | 2× |
| FP4 张量吞吐量(密集) | 不支持 | 9.0 PFLOPS | — |
| FP8 张量吞吐量(密集) | 1,979 TFLOPS | 4,500 TFLOPS | 2.3× |
| FP16 / BF16 张量吞吐量(密集) | 989 TFLOPS | 2,250 TFLOPS | 2.3× |
| FP64 | 34 / 67 TFLOPS | 37 TFLOPS | 1.09× |
| 最大功耗 | 最高 700 W,可配置 | 最高 1,000 W,可配置 | — |
| 每台服务器的 GPU 数量 | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| 每块 GPU 配套资源 | 24 vCPU · 256 GB RAM · 3.84 TB | 28 vCPU · 288 GB RAM · 3.84 TB | — |
来源: NVIDIA H200 · NVIDIA HGX · NVIDIA DGX B200. 完整规格表: H200 · B200
H200 vs B200:租用价格。
在 CryptGPU,H200 每块 GPU 的月租价格为 $2,279,B200 为 $3,439,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。
| CryptGPU | NVIDIA H200 | NVIDIA B200 | B200 / H200 |
|---|---|---|---|
| 每块 GPU 月租价格 | $2,279 | $3,439 | 1.51× |
| 等效每 GPU 小时价格 | $3.12 | $4.71 | — |
| 每 GB 显存月租价格 | $16.16 | $19.11 | 1.18× |
| 每 PFLOPS 密集 FP8 月租价格 | $1,152 | $764 | 0.66× |
| 最大服务器 | 8× · $18,232/月 | 8× · $27,512/月 | — |
| 市场中位价(每块 GPU) | $3,259 | $4,920 | — |
| 低于中位价 | −30% | −30% | — |
无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 H200 服务器 · 配置 B200 服务器
各款 GPU 能装下哪些模型。
按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。
| 模型 (总参数量) | H200 · FP8 | B200 · FP8 | H200 · 4 位 | B200 · 4 位 |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 1× | 1× | 1× |
| gpt-oss-120b | 2× | 1× | 1× | 1× |
| DeepSeek-V4-Flash | 4× | 4× | 2× | 2× |
| Qwen3.5-397B-A17B | 4× | 4× | 2× | 2× |
| DeepSeek-R1 (671B) | 8× | 8× | 4× | 4× |
| Kimi K2.6 (1T) | — | 8× | 8× | 4× |
FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?
H200 vs B200 常见问题。
详细了解各款 GPU:NVIDIA H200 · NVIDIA B200。
相比 H200,B200 的额外花费值得吗?
按单位算力计算更便宜:B200 上密集 FP8 算力月租约每 PFLOPS $764,对比 H200 的 $1,152。如果您的工作负载用不到这部分额外吞吐量,H200 的价格更低。
两者各有多少显存?
H200 配备 141 GB HBM3e 显存,带宽 4.8 TB/s;B200 为 180 GB HBM3e,带宽 8 TB/s。8 块 GPU 的服务器总显存分别为 1,128 GB 或 1,440 GB。
我的 CUDA 代码能在 B200 上运行吗?
可以,只要使用支持 Blackwell 的 CUDA 版本(CUDA 12.8 或更高)和当前的框架。针对 Hopper 调优的内核也能运行,但可能需要 Blackwell 版本才能发挥全部性能。
