BTC
ETH
USDT
XMR
LTC
逐个模型列出显存需求与最便宜的服务器。
使用 vLLM 或 SGLang 运行官方权重；最便宜的方案可能是 FP8 或 Ollama 版本。点击某个模型可查看所有方案和 GPU 的详情。
| 模型 | 权重 | 显存 | 最便宜服务器 | 每月 |
|---|---|---|---|---|
| Qwen3.5 9BQwen · 9B | 19 GB BF16 | 23 GB | 1× RTX 5080FP8 | $199/月 |
| gpt-oss-20bOpenAI · 21B MoE · 激活 3.6B | 14 GB MXFP4 | 17 GB | 1× RTX 4090MXFP4 | $269/月 |
| Devstral Small 2Mistral AI · 24B | 26 GB FP8 | 31 GB | 1× RTX 4090Ollama | $269/月 |
| Qwen3.8 27BQwen · 27B | 56 GB BF16 | 67 GB | 1× RTX 4090Ollama | $269/月 |
| Gemma 4 31BGoogle · 31B | 63 GB BF16 | 76 GB | 1× RTX 5090Ollama | $329/月 |
| Qwen3.6 35B-A3BQwen · 35B MoE · 激活 3B | 72 GB BF16 | 86 GB | 1× RTX 5090Ollama | $329/月 |
| gpt-oss-120bOpenAI · 117B MoE · 激活 5.1B | 65 GB MXFP4 | 78 GB | 1× RTX PRO 6000MXFP4 | $959/月 |
| Qwen3-Coder-NextQwen · 80B MoE · 激活 3B | 159 GB BF16 | 191 GB | 1× RTX PRO 6000Ollama | $959/月 |
| Mistral Small 4Mistral AI · 119B MoE | 121 GB FP8 | 145 GB | 2× RTX PRO 6000FP8 | $1,918/月 |
| DeepSeek-V4-FlashDeepSeek · 284B MoE · 激活 13B | 167 GB FP4/FP8 | 200 GB | 4× RTX PRO 6000FP4/FP8 | $3,836/月 |
| GLM-5.3-FlashZ.ai · 320B MoE · 激活 18B | 328 GB FP8 | 394 GB | 8× RTX PRO 6000FP8 | $7,672/月 |
| Qwen3.5 397B-A17BQwen · 397B MoE · 激活 17B | 807 GB BF16 | 968 GB | 8× RTX PRO 6000FP8 | $7,672/月 |
| DeepSeek-R1-0528DeepSeek · 671B MoE · 激活 37B | 689 GB FP8 | 827 GB | 2× MI355XOllama | $2,818/月 |
| Kimi K2.6Moonshot AI · 1T MoE · 激活 32B | 595 GB INT4 | 714 GB | 4× B300INT4 | $16,076/月 |
| DeepSeek-V4-ProDeepSeek · 1.6T MoE · 激活 49B | 893 GB FP4/FP8 | 1,072 GB | 8× B200FP4/FP8 | $27,512/月 |
| Kimi K3Moonshot AI · 2.8T MoE · 激活 104B | 1561 GB MXFP4 | 1,873 GB | 8× B300MXFP4 | $32,152/月 |
GPU 显存 = 官方权重 × 1.2（使用 vLLM 或 SGLang 时）。LLM 需要多少显存？
适用于 ComfyUI 的图像与视频模型。
在“软件”步骤中选择后，会随 ComfyUI 一起安装。所示大小为完整下载体积。
| 模型 | 类型 | 大小 | 许可证 |
|---|---|---|---|
| Qwen-ImageQwen | 图像 | 20B · 58 GB | Apache 2.0 |
| Qwen-Image-Edit-2511Qwen | 图像编辑 | 20B · 58 GB | Apache 2.0 |
| Wan 2.2 TI2V-5BWan-AI | 视频 | 5B · 34 GB | Apache 2.0 |
| Wan 2.2 T2V-A14BWan-AI | 视频 | 2 × 14B · 126 GB | Apache 2.0 |
| SDXL Base 1.0Stability AI | 图像 | 7 GB | OpenRAIL++-M |
如需扩散模型和视频相关工作，请参阅用于图像与视频生成的 GPU 服务器。
开放模型常见问题。
推理指南：在独享 GPU 上使用 vLLM · Ollama 搭配 Open WebUI。
CryptGPU 如何估算模型所需的 GPU 显存？
我们将官方权重的大小乘以 1.2，为 KV 缓存和激活值留出空间，并保留 8% 的显存作为余量。长上下文和大量并发请求需要更多显存。这是我们部署页面用来推荐服务器的选型规则。
CryptGPU 可以在我的服务器上预装模型吗？
可以，且不收取额外费用：在部署页面的“软件”步骤中选择模型，可搭配 vLLM、SGLang 或 Ollama 与 Open WebUI 使用。我们会下载官方权重，您在服务器上拥有 root 权限。
为什么没有 Llama 或 FLUX 模型？
下载这些模型需要您用自己的 Hugging Face 账户接受许可协议。我们只预装任何人都可以下载的模型；其他模型您可以自己以 root 身份安装。
这份列表更新到什么时候？
模型大小数据于 2026年9月23日 从 Hugging Face 官方仓库读取。我们会在每次价格核查时同步更新此列表。