BTC
ETH
USDT
XMR
LTC
开放模型 · Mistral AI · Apache 2.0
在您自己的 GPU 上
运行 Devstral Small 2。
Mistral 出品的编程智能体模型，适用于 IDE 和 CLI 智能体。 24B 参数，26 GB 官方 FP8 权重。
- 31 GB显存（FP8）
- 24B参数量
- 1× RTX 4090最便宜服务器（Ollama）
- $269每月
Devstral Small 2 所需的显存。
权重 × 1.2 用于 KV 缓存和激活值，按 92% 的可用显存计算：这是我们部署页面采用的选型规则。长上下文和大量并发请求需要更多显存。
| 推理方案 | 显存 | 最便宜服务器 | 每月 | 操作 |
|---|---|---|---|---|
| vLLM 或 SGLang，官方 FP8 权重 | 31 GB | 2× NVIDIA RTX 4090 | $538/月 | 部署 |
| Ollama + Open WebUI，devstral-small-2:24b（量化版） | 18 GB | 1× NVIDIA RTX 4090 | $269/月 | 部署 |
权重： mistralai/Devstral-Small-2-24B-Instruct-2512 · 26 GB, FP8 · Ollama: devstral-small-2:24b, 15 GB. 我们如何估算 GPU 显存
哪些 GPU 可运行 Devstral Small 2。
每种 GPU 中可容纳该模型的最小服务器及其月度价格。
| GPU | FP8 | Ollama | 价格（FP8） |
|---|---|---|---|
| NVIDIA B300288 GB HBM3e | 1× | 1× | $4,019/月 |
| NVIDIA B200180 GB HBM3e | 1× | 1× | $3,439/月 |
| AMD MI355X288 GB HBM3E | 不可用 | 1× | — |
| NVIDIA H200141 GB HBM3e | 1× | 1× | $2,279/月 |
| NVIDIA H10080 GB HBM3 | 1× | 1× | $1,779/月 |
| NVIDIA RTX PRO 600096 GB GDDR7 ECC | 1× | 1× | $959/月 |
| NVIDIA L40S48 GB GDDR6 ECC | 1× | 1× | $789/月 |
| NVIDIA RTX 509032 GB GDDR7 | 2× | 1× | $658/月 |
| NVIDIA RTX 409024 GB GDDR6X | 2× | 1× | $538/月 |
| NVIDIA RTX 508016 GB GDDR7 | 4× | 2× | $796/月 |
n/a = 该模型在 vLLM 或 SGLang 上的 ROCm 支持未确认。— = 超出该 GPU 最大服务器的容量。为其他模型选型
部署已预装 Devstral Small 2 的服务器。
在部署页面的“软件”步骤中选择模型：我们会用您选择的引擎为您安装，且不收取额外费用。
- 1
选择服务器
部署页面会推荐可容纳该模型的最便宜服务器，并在您更改精度或引擎时自动切换。
- 2
选择引擎
vLLM 或 SGLang 提供兼容 OpenAI 的 API；搭配 Open WebUI 的 Ollama 可在浏览器中提供私密聊天界面。
- 3
支付并登录
使用 BTC、ETH、USDT、XMR 或 LTC 支付月费，无需 KYC。确认后，您的服务器将在 10 分钟内上线，并提供 SSH root 权限。
博客文章： 私有化部署 AI 编程助手：在自己的 GPU 服务器上搭建私有 Copilot
指南：使用 vLLM 部署 LLM 推理服务 · 使用 SGLang 部署 LLM 推理服务 · Ollama 搭配 Open WebUI · 私有化部署大模型 · 用于 LLM 推理的 GPU 服务器 · 服务器入门指南
Devstral Small 2 常见问题。
所有模型：开放模型及其显存需求。
Devstral Small 2 需要多少显存？
按照权重 × 1.2（用于 KV 缓存和激活值）的选型规则，使用 vLLM 或 SGLang 运行官方 FP8 权重（26 GB）大约需要 31 GB 显存；Ollama 的 devstral-small-2:24b 版本约为 18 GB。长上下文和大量并发请求需要更多显存。
Devstral Small 2 能在单块 GPU 上运行吗？
是的，按照我们的选型规则，使用 Ollama + Open WebUI，devstral-small-2:24b（量化版） 时可在一块 B300、B200、MI355X、H200、H100、RTX PRO 6000、L40S、RTX 5090 或 RTX 4090 上运行。
Devstral Small 2 最便宜的服务器是哪款？
CryptGPU 上 Devstral Small 2 最便宜的服务器是 1× NVIDIA RTX 4090（Ollama + Open WebUI，devstral-small-2:24b（量化版）），每月 $269。下单时可免费预装该模型，并支持加密货币付款，无需 KYC。
Devstral Small 2 能在 AMD MI355X 上运行吗？
在 vLLM 或 SGLang 上的 ROCm 支持尚未确认，因此我们仅在 NVIDIA 服务器上提供该模型；若使用 Ollama，也可在 MI355X 上运行。
Devstral Small 2 使用什么许可证？
Apache 2.0。我们从 Hugging Face（mistralai/Devstral-Small-2-24B-Instruct-2512）下载官方权重；许可证合规由您自行负责。
您的专属 Devstral Small 2，几分钟内就绪。
独享 GPU，统一月付价格，模型预装。支持加密货币付款，无需 KYC。