GPU 对比 · CDNA 4 vs Blackwell
AMD MI355X vs NVIDIA B200。
AMD CDNA 4 对阵 NVIDIA Blackwell。MI355X 的显存是 B200 的 1.6 倍(288 GB 对比 180 GB HBM3E),带宽同为 8 TB/s,密集 FP8 吞吐量高出约 11%,FP64 是其两倍。B200 则拥有每块 GPU 1.8 TB/s 的 NVLink 5 和 CUDA 生态。MI355X 每块 GPU 每月便宜 $2,030;我们的 MI355X 市场参考价仅供参考。
- 288 vs 180 GB显存
- 均为 8 TB/s显存带宽
- $1,409 vs $3,439每块 GPU 每月
MI355X vs B200:该租哪一款。
适合 MI355X 的场景
- 您的模型每块 GPU 需要更多显存:一块 MI355X 可容纳 FP8 下约 220B 参数,B200 约为 138B。
- 您运行 FP64 科学计算代码:78.6 TFLOPS 对比 B200 的 37 TFLOPS。
- 您的软件可在 ROCm 上运行,并且想要更低的价格:每块 GPU 每月 $1,409 对比 $3,439。
适合 B200 的场景
- 您的技术栈依赖 CUDA:自定义内核、TensorRT-LLM,或没有 ROCm 版本的库。
- 您要在 8 块 GPU 上训练:NVLink 5 每块 GPU 传输 1.8 TB/s,AMD Infinity Fabric 为 1.07 TB/s。
- 您的模型能放进单卡 180 GB,并且您需要最成熟的软件支持。
MI355X vs B200:规格并列对比。
数据均引自 NVIDIA 和 AMD 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。
| 每块 GPU | AMD MI355X | NVIDIA B200 | B200 / MI355X |
|---|---|---|---|
| 架构 | CDNA 4(gfx950),TSMC 3 nm 和 6 nm | Blackwell, TSMC 4NP | — |
| 外形规格 | OAM 模组,液冷 | SXM 模组(HGX B200) | — |
| 显存 | 288 GB HBM3E(8 个 36 GB 堆栈) | 180 GB HBM3e | 0.63× |
| 显存带宽 | 8 TB/s | 最高 8 TB/s | 相同 |
| GPU 间互联 | Infinity Fabric,7 条链路,每条 153.6 GB/s | NVLink 5,每块 GPU 1.8 TB/s | 1.67× |
| FP4 张量吞吐量(密集) | 10.1 PFLOPS | 9.0 PFLOPS | 0.89× |
| FP8 张量吞吐量(密集) | 5,000 TFLOPS | 4,500 TFLOPS | 0.9× |
| FP16 / BF16 张量吞吐量(密集) | 2,500 TFLOPS | 2,250 TFLOPS | 0.9× |
| FP64 | 78.6 TFLOPS | 37 TFLOPS | 0.47× |
| 最大功耗 | 1,400 W | 最高 1,000 W,可配置 | — |
| 每台服务器的 GPU 数量 | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| 每块 GPU 配套资源 | 32 vCPU · 384 GB RAM · 3.84 TB | 28 vCPU · 288 GB RAM · 3.84 TB | — |
来源: AMD Instinct MI355X · ROCm MI350 系列 · NVIDIA HGX · NVIDIA DGX B200. 完整规格表: MI355X · B200
MI355X vs B200:租用价格。
在 CryptGPU,MI355X 每块 GPU 的月租价格为 $1,409,B200 为 $3,439,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。
| CryptGPU | AMD MI355X | NVIDIA B200 | B200 / MI355X |
|---|---|---|---|
| 每块 GPU 月租价格 | $1,409 | $3,439 | 2.4× |
| 等效每 GPU 小时价格 | $1.93 | $4.71 | — |
| 每 GB 显存月租价格 | $4.89 | $19.11 | 3.9× |
| 每 PFLOPS 密集 FP8 月租价格 | $282 | $764 | 2.7× |
| 最大服务器 | 8× · $11,272/月 | 8× · $27,512/月 | — |
| 市场中位价(每块 GPU) | $2,022* | $4,920 | — |
| 低于中位价 | −30% | −30% | — |
* 市场参考价仅供参考:目前还没有服务商公布该 GPU 的按需价格。无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 MI355X 服务器 · 配置 B200 服务器
各款 GPU 能装下哪些模型。
按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。
| 模型 (总参数量) | MI355X · FP8 | B200 · FP8 | MI355X · 4 位 | B200 · 4 位 |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 1× | 1× | 1× |
| gpt-oss-120b | 1× | 1× | 1× | 1× |
| DeepSeek-V4-Flash | 2× | 4× | 1× | 2× |
| Qwen3.5-397B-A17B | 2× | 4× | 1× | 2× |
| DeepSeek-R1 (671B) | 4× | 8× | 2× | 4× |
| Kimi K2.6 (1T) | 8× | 8× | 4× | 4× |
FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?
MI355X vs B200 常见问题。
详细了解各款 GPU:AMD MI355X · NVIDIA B200。
MI355X 比 B200 快吗?
从参数上看,它的密集 FP8 吞吐量高出约 11%,密集 FP4 高出约 12%,显存带宽同为 8 TB/s,显存是 1.6 倍。实际速度取决于您的软件针对 ROCm 的优化程度;我们不发布基准测试。
为什么 MI355X 比 B200 便宜这么多?
我们对两者的定价都比各自的市场中位价低 30%,但两个市场情况不同:公开的 MI355X 报价远低于 B200 的按需价格,而且 ROCm 软件生态比 CUDA 更年轻。我们核查时还没有服务商公布 MI355X 的按需价格,因此我们的 MI355X 参考价仅供参考。
8 卡服务器能装下什么?
8 块 MI355X 共 2,304 GB,8 块 B200 共 1,440 GB。按我们的经验法则,FP8 下 1T 参数的模型(约 1,200 GB)两者都能容纳;BF16 下的 671B 模型(约 1,610 GB)只有 MI355X 服务器能容纳。
