GPU 对比 · Blackwell vs Ada Lovelace
NVIDIA RTX 5090 vs RTX 4090。
RTX 5090(Blackwell)配备 32 GB GDDR7 显存,带宽 1.8 TB/s;RTX 4090 为 24 GB GDDR6X,带宽 1 TB/s,且 5090 还带有 FP4 Tensor Core。对 AI 服务器而言,显存是主要差异;5090 每张卡每月贵 $60。
- 32 vs 24 GB显存
- 1.79 vs 1.01 TB/s显存带宽
- $329 vs $269每块 GPU 每月
RTX 5090 vs RTX 4090:该租哪一款。
适合 RTX 5090 的场景
- 您需要超过 24 GB 显存:更大的图像和视频模型,或 4-bit 量化下约 45B 参数以内的 LLM。
- 您的推理受显存带宽限制:带宽是 4090 的 1.78 倍。
- 您想在 GeForce 显卡上运行 FP4 推理。
适合 RTX 4090 的场景
- 您的模型能放进 24 GB 显存,例如 SDXL 级图像模型,或 4-bit 量化下约 30B 参数以内的 LLM。
- 您想要最低的单卡价格:每月 $269。
- 您使用 Blender、Octane 或 Redshift 渲染,倾向于用更多显卡而不是更大显存来扩展。
RTX 5090 vs RTX 4090:规格并列对比。
数据均引自 NVIDIA 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。
| 每块 GPU | NVIDIA RTX 5090 | NVIDIA RTX 4090 | RTX 4090 / RTX 5090 |
|---|---|---|---|
| 架构 | Blackwell | Ada Lovelace, TSMC 4N | — |
| 外形规格 | PCIe Gen5 显卡 | PCIe Gen4 显卡 | — |
| 显存 | 32 GB GDDR7,512 位 | 24 GB GDDR6X,384 位 | 0.75× |
| 显存带宽 | 1,792 GB/s | 1,008 GB/s | 0.56× |
| GPU 间互联 | 无(PCIe Gen5) | 无(PCIe Gen4) | — |
| FP4 张量吞吐量(密集) | 1.7 PFLOPS | 不支持 | — |
| FP8 张量吞吐量(密集) | 419 TFLOPS | 330 TFLOPS | 0.79× |
| FP16 / BF16 张量吞吐量(密集) | 209.5 TFLOPS | 165 TFLOPS | 0.79× |
| FP64 | — | — | — |
| 最大功耗 | 575 W | 450 W | — |
| 每台服务器的 GPU 数量 | 1, 2, 4 | 1, 2, 4 | — |
| 每块 GPU 配套资源 | 16 vCPU · 64 GB RAM · 1 TB | 12 vCPU · 64 GB RAM · 1 TB | — |
来源: NVIDIA GeForce RTX 5090 · RTX Blackwell 白皮书 · NVIDIA GeForce RTX 4090 · Ada 白皮书. 完整规格表: RTX 5090 · RTX 4090
RTX 5090 vs RTX 4090:租用价格。
在 CryptGPU,RTX 5090 每块 GPU 的月租价格为 $329,RTX 4090 为 $269,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。
| CryptGPU | NVIDIA RTX 5090 | NVIDIA RTX 4090 | RTX 4090 / RTX 5090 |
|---|---|---|---|
| 每块 GPU 月租价格 | $329 | $269 | 0.82× |
| 等效每 GPU 小时价格 | $0.45 | $0.37 | — |
| 每 GB 显存月租价格 | $10.28 | $11.21 | 1.09× |
| 每 PFLOPS 密集 FP8 月租价格 | $785 | $815 | 1.04× |
| 最大服务器 | 4× · $1,316/月 | 4× · $1,076/月 | — |
| 市场中位价(每块 GPU) | $481 | $387 | — |
| 低于中位价 | −32% | −30% | — |
无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 RTX 5090 服务器 · 配置 RTX 4090 服务器
各款 GPU 能装下哪些模型。
按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。
| 模型 (总参数量) | RTX 5090 · FP8 | RTX 4090 · FP8 | RTX 5090 · 4 位 | RTX 4090 · 4 位 |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 2× | 2× | 1× | 1× |
| Llama 3.3 70B | 4× | 4× | 2× | 4× |
| gpt-oss-120b | — | — | 4× | 4× |
| DeepSeek-V4-Flash | — | — | — | — |
| Qwen3.5-397B-A17B | — | — | — | — |
| DeepSeek-R1 (671B) | — | — | — | — |
| Kimi K2.6 (1T) | — | — | — | — |
FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?
RTX 5090 vs RTX 4090 常见问题。
详细了解各款 GPU:NVIDIA RTX 5090 · NVIDIA RTX 4090。
在 AI 场景下 RTX 5090 比 RTX 4090 更好吗?
在受显存或带宽限制的场景下更好:32 GB 对比 24 GB,1.8 TB/s 对比 1 TB/s,密集 FP8 与 BF16 吞吐量高出约 27%。若模型能放进 24 GB,4090 的价格更低。
RTX 5090 能运行 70B 模型吗?
按我们的经验法则,4-bit 量化下 70B 模型约需 46 GB 显存:两块 RTX 5090(可用显存约 59 GB)足够,两块 RTX 4090(可用显存约 44 GB)不够,四块 RTX 4090 则可以。GeForce 服务器提供 1、2 或 4 块显卡配置。
每台服务器最多能装几块显卡?
两者都提供 1、2 或 4 块显卡的服务器配置,通过 PCIe 互联(GeForce 不支持 NVLink)。
其他 GPU 对比。
- Blackwell vs Hopper RTX 5090 vs H100 32 vs 80 GB · 1.8 TB/s vs 3.35 TB/s $329 vs $1,779/月 · 每块 GPU
- Ada Lovelace vs Hopper RTX 4090 vs H100 24 vs 80 GB · 1 TB/s vs 3.35 TB/s $269 vs $1,779/月 · 每块 GPU
- Blackwell vs Ada Lovelace RTX 5080 vs RTX 4090 16 vs 24 GB · 960 GB/s vs 1 TB/s $199 vs $269/月 · 每块 GPU
租用 RTX 5090 或 RTX 4090。
独享服务器可配置 1 至 4 块 GPU,统一月付价格,支持加密货币支付;10 分钟内上线,无需 KYC。
