新品 NVIDIA B300 · 288 GB HBM3e 服务器 — 起价 $4,019/月 每块 GPU

查看 B300

GPU 对比 · CDNA 4 vs Blackwell Ultra

AMD MI355X vs NVIDIA B300。

两款 288 GB 显存的 GPU。两者都配备 288 GB HBM3E 显存,带宽 8 TB/s。AMD MI355X 拥有强大的 FP64 性能,月租价格仅为 NVIDIA B300 的一小部分;B300 则带来 CUDA 生态、更高的 FP4 吞吐量和 NVLink 5。我们的 MI355X 市场参考价仅供参考。

  • 均为 288 GB显存
  • 均为 8 TB/s显存带宽
  • $1,409 vs $4,019每块 GPU 每月

MI355X vs B300:该租哪一款。

适合 MI355X 的场景

  • 您的技术栈基于 ROCm:PyTorch、vLLM 和 SGLang 均支持 MI355X。
  • 您想要每美元获得最多显存:每 GB 每月 $4.89 对比 $13.95。
  • 您需要 FP64:78.6 TFLOPS,而 B300 仅为 1.25 TFLOPS。

AMD MI355X 服务器起价 $1,409/月

适合 B300 的场景

  • 您的代码依赖 CUDA 库、自定义内核或 TensorRT-LLM。
  • 您需要大规模运行 FP4 推理:单块 GPU 密集吞吐量为 13.5 PFLOPS,对比 10.1 PFLOPS。
  • 您需要跨 8 块 GPU 训练,并需要 NVLink 5 提供的每块 GPU 1.8 TB/s 带宽。

NVIDIA B300 服务器起价 $4,019/月

MI355X vs B300:规格并列对比。

数据均引自 NVIDIA 和 AMD 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。

MI355X vs B300 规格参数
每块 GPUAMD MI355XNVIDIA B300B300 / MI355X
架构CDNA 4(gfx950),TSMC 3 nm 和 6 nmBlackwell Ultra, TSMC 4NP—
外形规格OAM 模组,液冷SXM 模组(HGX B300)—
显存288 GB HBM3E(8 个 36 GB 堆栈)288 GB HBM3E相同
显存带宽8 TB/s最高 8 TB/s相同
GPU 间互联Infinity Fabric,7 条链路,每条 153.6 GB/sNVLink 5,每块 GPU 1.8 TB/s1.67×
FP4 张量吞吐量(密集)10.1 PFLOPS13.5 PFLOPS1.34×
FP8 张量吞吐量(密集)5,000 TFLOPS4,500 TFLOPS0.9×
FP16 / BF16 张量吞吐量(密集)2,500 TFLOPS2,250 TFLOPS0.9×
FP6478.6 TFLOPS1.25 TFLOPS0.02×
最大功耗1,400 W未公布—
每台服务器的 GPU 数量1, 2, 4, 81, 2, 4, 8—
每块 GPU 配套资源32 vCPU · 384 GB RAM · 3.84 TB32 vCPU · 384 GB RAM · 3.84 TB—

来源: AMD Instinct MI355X · ROCm MI350 系列 · NVIDIA HGX · Blackwell Ultra 技术博客. 完整规格表: MI355X · B300

MI355X vs B300:租用价格。

在 CryptGPU,MI355X 每块 GPU 的月租价格为 $1,409,B300 为 $4,019,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。

MI355X vs B300 租用价格
CryptGPUAMD MI355XNVIDIA B300B300 / MI355X
每块 GPU 月租价格$1,409$4,0192.9×
等效每 GPU 小时价格$1.93$5.51—
每 GB 显存月租价格$4.89$13.952.9×
每 PFLOPS 密集 FP8 月租价格$282$8933.2×
最大服务器8× · $11,272/月8× · $32,152/月—
市场中位价(每块 GPU)$2,022*$5,745—
低于中位价−30%−30%—

* 市场参考价仅供参考:目前还没有服务商公布该 GPU 的按需价格。无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 MI355X 服务器 · 配置 B300 服务器

各款 GPU 能装下哪些模型。

按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。

MI355X vs B300 上各模型所需的 GPU 数量
模型 (总参数量)MI355X · FP8B300 · FP8MI355X · 4 位B300 · 4 位
Qwen3.5-9B 1× 1× 1× 1×
Gemma 4 31B 1× 1× 1× 1×
Llama 3.3 70B 1× 1× 1× 1×
gpt-oss-120b 1× 1× 1× 1×
DeepSeek-V4-Flash 2× 2× 1× 1×
Qwen3.5-397B-A17B 2× 2× 1× 1×
DeepSeek-R1 (671B) 4× 4× 2× 2×
Kimi K2.6 (1T) 8× 8× 4× 4×

FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?

MI355X vs B300 常见问题。

详细了解各款 GPU:AMD MI355X · NVIDIA B300。

为什么 MI355X 比 B300 便宜这么多?

我们对两者的定价都比市场中位价低 30%,但两个市场情况不同:公开的 MI355X 报价远低于 B300 的按需价格,而且 ROCm 软件生态比 CUDA 更年轻。由于目前还没有服务商公布 MI355X 的按需价格,我们的 MI355X 参考价仅供参考。

我的 PyTorch 代码能在 MI355X 上运行吗?

大多数 PyTorch 代码在 ROCm 版 PyTorch 上可以直接运行,无需修改。自定义 CUDA 内核则需要移植为 HIP。vLLM 和 SGLang 都提供 ROCm 版本。

科学计算场景下哪款更好?

MI355X:FP64 算力为 78.6 TFLOPS,B300 仅为 1.25 TFLOPS,而两者的显存(288 GB)和带宽(8 TB/s)相同。

租用 MI355X 或 B300。

独享服务器可配置 1 至 8 块 GPU,统一月付价格,支持加密货币支付;10 分钟内上线,无需 KYC。

客户中心

登录 CryptGPU

您的订单、账单和服务器,一站式管理。

还没有 CryptGPU 账户?

账户是在结账时创建的:先选择您的服务器和软件,然后在首次下单的账户步骤中创建账户。

部署服务器