新品 NVIDIA B300 · 288 GB HBM3e 服务器 — 起价 $4,019/月 每块 GPU

查看 B300

GPU 对比 · Blackwell vs Ada Lovelace

NVIDIA RTX 5090 vs RTX 4090。

RTX 5090(Blackwell)配备 32 GB GDDR7 显存,带宽 1.8 TB/s;RTX 4090 为 24 GB GDDR6X,带宽 1 TB/s,且 5090 还带有 FP4 Tensor Core。对 AI 服务器而言,显存是主要差异;5090 每张卡每月贵 $60。

  • 32 vs 24 GB显存
  • 1.79 vs 1.01 TB/s显存带宽
  • $329 vs $269每块 GPU 每月

RTX 5090 vs RTX 4090:该租哪一款。

适合 RTX 5090 的场景

  • 您需要超过 24 GB 显存:更大的图像和视频模型,或 4-bit 量化下约 45B 参数以内的 LLM。
  • 您的推理受显存带宽限制:带宽是 4090 的 1.78 倍。
  • 您想在 GeForce 显卡上运行 FP4 推理。

NVIDIA RTX 5090 服务器起价 $329/月

适合 RTX 4090 的场景

  • 您的模型能放进 24 GB 显存,例如 SDXL 级图像模型,或 4-bit 量化下约 30B 参数以内的 LLM。
  • 您想要最低的单卡价格:每月 $269。
  • 您使用 Blender、Octane 或 Redshift 渲染,倾向于用更多显卡而不是更大显存来扩展。

NVIDIA RTX 4090 服务器起价 $269/月

RTX 5090 vs RTX 4090:规格并列对比。

数据均引自 NVIDIA 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。

RTX 5090 vs RTX 4090 规格参数
每块 GPUNVIDIA RTX 5090NVIDIA RTX 4090RTX 4090 / RTX 5090
架构BlackwellAda Lovelace, TSMC 4N—
外形规格PCIe Gen5 显卡PCIe Gen4 显卡—
显存32 GB GDDR7,512 位24 GB GDDR6X,384 位0.75×
显存带宽1,792 GB/s1,008 GB/s0.56×
GPU 间互联无(PCIe Gen5)无(PCIe Gen4)—
FP4 张量吞吐量(密集)1.7 PFLOPS不支持—
FP8 张量吞吐量(密集)419 TFLOPS330 TFLOPS0.79×
FP16 / BF16 张量吞吐量(密集)209.5 TFLOPS165 TFLOPS0.79×
FP64———
最大功耗575 W450 W—
每台服务器的 GPU 数量1, 2, 41, 2, 4—
每块 GPU 配套资源16 vCPU · 64 GB RAM · 1 TB12 vCPU · 64 GB RAM · 1 TB—

来源: NVIDIA GeForce RTX 5090 · RTX Blackwell 白皮书 · NVIDIA GeForce RTX 4090 · Ada 白皮书. 完整规格表: RTX 5090 · RTX 4090

RTX 5090 vs RTX 4090:租用价格。

在 CryptGPU,RTX 5090 每块 GPU 的月租价格为 $329,RTX 4090 为 $269,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。

RTX 5090 vs RTX 4090 租用价格
CryptGPUNVIDIA RTX 5090NVIDIA RTX 4090RTX 4090 / RTX 5090
每块 GPU 月租价格$329$2690.82×
等效每 GPU 小时价格$0.45$0.37—
每 GB 显存月租价格$10.28$11.211.09×
每 PFLOPS 密集 FP8 月租价格$785$8151.04×
最大服务器4× · $1,316/月4× · $1,076/月—
市场中位价(每块 GPU)$481$387—
低于中位价−32%−30%—

无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 RTX 5090 服务器 · 配置 RTX 4090 服务器

各款 GPU 能装下哪些模型。

按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。

RTX 5090 vs RTX 4090 上各模型所需的 GPU 数量
模型 (总参数量)RTX 5090 · FP8RTX 4090 · FP8RTX 5090 · 4 位RTX 4090 · 4 位
Qwen3.5-9B 1× 1× 1× 1×
Gemma 4 31B 2× 2× 1× 1×
Llama 3.3 70B 4× 4× 2× 4×
gpt-oss-120b — — 4× 4×
DeepSeek-V4-Flash — — — —
Qwen3.5-397B-A17B — — — —
DeepSeek-R1 (671B) — — — —
Kimi K2.6 (1T) — — — —

FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?

RTX 5090 vs RTX 4090 常见问题。

详细了解各款 GPU:NVIDIA RTX 5090 · NVIDIA RTX 4090。

在 AI 场景下 RTX 5090 比 RTX 4090 更好吗?

在受显存或带宽限制的场景下更好:32 GB 对比 24 GB,1.8 TB/s 对比 1 TB/s,密集 FP8 与 BF16 吞吐量高出约 27%。若模型能放进 24 GB,4090 的价格更低。

RTX 5090 能运行 70B 模型吗?

按我们的经验法则,4-bit 量化下 70B 模型约需 46 GB 显存:两块 RTX 5090(可用显存约 59 GB)足够,两块 RTX 4090(可用显存约 44 GB)不够,四块 RTX 4090 则可以。GeForce 服务器提供 1、2 或 4 块显卡配置。

每台服务器最多能装几块显卡?

两者都提供 1、2 或 4 块显卡的服务器配置,通过 PCIe 互联(GeForce 不支持 NVLink)。

租用 RTX 5090 或 RTX 4090。

独享服务器可配置 1 至 4 块 GPU,统一月付价格,支持加密货币支付;10 分钟内上线,无需 KYC。

客户中心

登录 CryptGPU

您的订单、账单和服务器,一站式管理。

还没有 CryptGPU 账户?

账户是在结账时创建的:先选择您的服务器和软件,然后在首次下单的账户步骤中创建账户。

部署服务器