新品 NVIDIA B300 · 288 GB HBM3e 服务器 — 起价 $4,019/月 每块 GPU

查看 B300

GPU 对比 · Blackwell vs Hopper

NVIDIA RTX 5090 vs H100。

GeForce 显卡对阵 Hopper 数据中心 GPU。H100 SXM 的显存是 RTX 5090 的 2.5 倍(80 GB HBM3 对比 32 GB GDDR7),带宽是 1.9 倍,密集 FP8 与 BF16 吞吐量约为 4.7 倍,GPU 之间还有 NVLink 互联。RTX 5090 则带有 FP4 Tensor Core,价格约为 H100 的五分之一:每块 GPU 每月 $329 对比 $1,779。

  • 32 vs 80 GB显存
  • 1.79 vs 3.35 TB/s显存带宽
  • $329 vs $1,779每块 GPU 每月

RTX 5090 vs H100:该租哪一款。

适合 RTX 5090 的场景

  • 您的模型能放进单卡 32 GB:按我们的选型规则,FP8 下最多约 24B 参数,4-bit 下约 45B。
  • 您做图像或视频生成,或者渲染:RT Core 和 FP4 Tensor Core 都是 H100 所没有的。
  • 价格优先:四块 RTX 5090(每月 $1,316)比一块 H100 还便宜。

NVIDIA RTX 5090 服务器起价 $329/月

适合 H100 的场景

  • 您的模型每块 GPU 需要超过 32 GB:一块 H100 可容纳 FP8 下约 61B 参数,或 4-bit 下的 70B 模型(约 46 GB)。
  • 您需要跨多块 GPU 训练或微调:NVLink 4 以每块 GPU 900 GB/s 的速度互联 H100,而 GeForce 显卡只能通过 PCIe 通信。
  • 您需要 ECC 显存、用于科学计算的 FP64,或单卡最高吞吐量。

NVIDIA H100 服务器起价 $1,779/月

RTX 5090 vs H100:规格并列对比。

数据均引自 NVIDIA 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。

RTX 5090 vs H100 规格参数
每块 GPUNVIDIA RTX 5090NVIDIA H100H100 / RTX 5090
架构BlackwellHopper, TSMC 4N—
外形规格PCIe Gen5 显卡SXM5 模组—
显存32 GB GDDR7,512 位80 GB HBM3,5,120 位2.5×
显存带宽1,792 GB/s3.35 TB/s1.87×
GPU 间互联无(PCIe Gen5)NVLink 4,每块 GPU 900 GB/s—
FP4 张量吞吐量(密集)1.7 PFLOPS不支持—
FP8 张量吞吐量(密集)419 TFLOPS1,979 TFLOPS4.7×
FP16 / BF16 张量吞吐量(密集)209.5 TFLOPS989 TFLOPS4.7×
FP64—34 / 67 TFLOPS—
最大功耗575 W最高 700 W,可配置—
每台服务器的 GPU 数量1, 2, 41, 2, 4, 8—
每块 GPU 配套资源16 vCPU · 64 GB RAM · 1 TB20 vCPU · 200 GB RAM · 2 TB—

来源: NVIDIA GeForce RTX 5090 · RTX Blackwell 白皮书 · NVIDIA H100. 完整规格表: RTX 5090 · H100

RTX 5090 vs H100:租用价格。

在 CryptGPU,RTX 5090 每块 GPU 的月租价格为 $329,H100 为 $1,779,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。

RTX 5090 vs H100 租用价格
CryptGPUNVIDIA RTX 5090NVIDIA H100H100 / RTX 5090
每块 GPU 月租价格$329$1,7795.4×
等效每 GPU 小时价格$0.45$2.44—
每 GB 显存月租价格$10.28$22.242.2×
每 PFLOPS 密集 FP8 月租价格$785$8991.14×
最大服务器4× · $1,316/月8× · $14,232/月—
市场中位价(每块 GPU)$481$2,548—
低于中位价−32%−30%—

无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 RTX 5090 服务器 · 配置 H100 服务器

各款 GPU 能装下哪些模型。

按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。

RTX 5090 vs H100 上各模型所需的 GPU 数量
模型 (总参数量)RTX 5090 · FP8H100 · FP8RTX 5090 · 4 位H100 · 4 位
Qwen3.5-9B 1× 1× 1× 1×
Gemma 4 31B 2× 1× 1× 1×
Llama 3.3 70B 4× 2× 2× 1×
gpt-oss-120b — 2× 4× 2×
DeepSeek-V4-Flash — 8× — 4×
Qwen3.5-397B-A17B — 8× — 4×
DeepSeek-R1 (671B) — — — 8×
Kimi K2.6 (1T) — — — —

FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?

RTX 5090 vs H100 常见问题。

详细了解各款 GPU:NVIDIA RTX 5090 · NVIDIA H100。

RTX 5090 能替代 H100 吗?

对于能放进 32 GB 的模型推理以及图像和视频生成,通常可以,而且价格只是零头。对于更大的模型、多 GPU 训练、ECC 显存或 FP64 计算,H100 才是合适的工具。

哪个的 LLM 推理更快?

按单卡算,H100 更快:显存带宽是 1.9 倍,而带宽决定了 token 生成速度的上限;密集 FP8 吞吐量约为 4.7 倍,可加快提示词处理。实际速度取决于模型、精度和推理引擎;我们不发布基准测试。

多少块 RTX 5090 的显存才能比得上一块 H100?

GeForce 服务器提供 1、2 或 4 块显卡配置:四块 RTX 5090 共 128 GB(可用约 118 GB),每月 $1,316;一块 H100 为 80 GB,每月 $1,779。四块显卡通过 PCIe 分担工作,比 NVLink 慢。

租用 RTX 5090 或 H100。

独享服务器可配置 1 至 8 块 GPU,统一月付价格,支持加密货币支付;10 分钟内上线,无需 KYC。

客户中心

登录 CryptGPU

您的订单、账单和服务器,一站式管理。

还没有 CryptGPU 账户?

账户是在结账时创建的:先选择您的服务器和软件,然后在首次下单的账户步骤中创建账户。

部署服务器