新品 NVIDIA B300 · 288 GB HBM3e 服务器 — 起价 $4,019/月 每块 GPU

查看 B300

开放模型 · Qwen · Apache 2.0

在您自己的 GPU 上
运行 Qwen3.5 9B。

密集型视觉语言模型,支持 262K token 上下文。 9B 参数,19 GB 官方 BF16 权重。

  • 23 GB显存(BF16)
  • 11 GB显存(FP8)
  • 1× RTX 5080最便宜服务器(FP8)
  • $199每月

Qwen3.5 9B 所需的显存。

权重 × 1.2 用于 KV 缓存和激活值,按 92% 的可用显存计算:这是我们部署页面采用的选型规则。长上下文和大量并发请求需要更多显存。

Qwen3.5 9B 所需显存及最便宜服务器
推理方案显存最便宜服务器每月操作
vLLM 或 SGLang,官方 BF16 权重 23 GB 1× NVIDIA RTX 5090 $329/月 部署
vLLM 或 SGLang,FP8 11 GB 1× NVIDIA RTX 5080 $199/月 部署
Ollama + Open WebUI,qwen3.5:9b(量化版) 7.9 GB 1× NVIDIA RTX 5080 $199/月 部署

权重: Qwen/Qwen3.5-9B · 19 GB, BF16 · Ollama: qwen3.5:9b, 6.6 GB. 我们如何估算 GPU 显存

哪些 GPU 可运行 Qwen3.5 9B。

每种 GPU 中可容纳该模型的最小服务器及其月度价格。

Qwen3.5 9B 在各 GPU 型号上所需的 GPU 数量
GPUBF16FP8Ollama价格(BF16)
NVIDIA B300288 GB HBM3e 1× 1× 1× $4,019/月
NVIDIA B200180 GB HBM3e 1× 1× 1× $3,439/月
AMD MI355X288 GB HBM3E 不可用 不可用 1× —
NVIDIA H200141 GB HBM3e 1× 1× 1× $2,279/月
NVIDIA H10080 GB HBM3 1× 1× 1× $1,779/月
NVIDIA RTX PRO 600096 GB GDDR7 ECC 1× 1× 1× $959/月
NVIDIA L40S48 GB GDDR6 ECC 1× 1× 1× $789/月
NVIDIA RTX 509032 GB GDDR7 1× 1× 1× $329/月
NVIDIA RTX 409024 GB GDDR6X 2× 1× 1× $538/月
NVIDIA RTX 508016 GB GDDR7 2× 1× 1× $398/月

n/a = 该模型在 vLLM 或 SGLang 上的 ROCm 支持未确认。— = 超出该 GPU 最大服务器的容量。为其他模型选型

部署已预装 Qwen3.5 9B 的服务器。

在部署页面的“软件”步骤中选择模型:我们会用您选择的引擎为您安装,且不收取额外费用。

  1. 1

    选择服务器

    部署页面会推荐可容纳该模型的最便宜服务器,并在您更改精度或引擎时自动切换。

  2. 2

    选择引擎

    vLLM 或 SGLang 提供兼容 OpenAI 的 API;搭配 Open WebUI 的 Ollama 可在浏览器中提供私密聊天界面。

  3. 3

    支付并登录

    使用 BTC、ETH、USDT、XMR 或 LTC 支付月费,无需 KYC。确认后,您的服务器将在 10 分钟内上线,并提供 SSH root 权限。

指南:使用 vLLM 部署 LLM 推理服务 · 使用 SGLang 部署 LLM 推理服务 · Ollama 搭配 Open WebUI · 私有化部署大模型 · 用于 LLM 推理的 GPU 服务器 · 服务器入门指南

Qwen3.5 9B 常见问题。

所有模型:开放模型及其显存需求。

Qwen3.5 9B 需要多少显存?

按照权重 × 1.2(用于 KV 缓存和激活值)的选型规则,使用 vLLM 或 SGLang 运行官方 BF16 权重(19 GB)大约需要 23 GB 显存;FP8 下约为 11 GB;Ollama 的 qwen3.5:9b 版本约为 7.9 GB。长上下文和大量并发请求需要更多显存。

Qwen3.5 9B 能在单块 GPU 上运行吗?

是的,按照我们的选型规则,使用 vLLM 或 SGLang,FP8 时可在一块 B300、B200、H200、H100、RTX PRO 6000、L40S、RTX 5090、RTX 4090 或 RTX 5080 上运行。

Qwen3.5 9B 最便宜的服务器是哪款?

CryptGPU 上 Qwen3.5 9B 最便宜的服务器是 1× NVIDIA RTX 5080(vLLM 或 SGLang,FP8),每月 $199。下单时可免费预装该模型,并支持加密货币付款,无需 KYC。

Qwen3.5 9B 能在 AMD MI355X 上运行吗?

在 vLLM 或 SGLang 上的 ROCm 支持尚未确认,因此我们仅在 NVIDIA 服务器上提供该模型;若使用 Ollama,也可在 MI355X 上运行。

Qwen3.5 9B 使用什么许可证?

Apache 2.0。我们从 Hugging Face(Qwen/Qwen3.5-9B)下载官方权重;许可证合规由您自行负责。

您的专属 Qwen3.5 9B,几分钟内就绪。

独享 GPU,统一月付价格,模型预装。支持加密货币付款,无需 KYC。

客户中心

登录 CryptGPU

您的订单、账单和服务器,一站式管理。

还没有 CryptGPU 账户?

账户是在结账时创建的:先选择您的服务器和软件,然后在首次下单的账户步骤中创建账户。

部署服务器