6 种工作负载

GPU 服务器，
满足每一种 AI 工作负载。

训练、微调、推理服务、生成、渲染或研究：每种工作负载对 GPU 的需求各不相同。从您的工作负载开始吧。

按工作负载查看最佳 GPU 服务器。

每个页面都会说明该工作负载的关键因素、我们推荐的服务器、选型表格，以及大家常用的软件。

按照我们的经验法则，为每种规模的模型找到的最便宜配置。混合专家（MoE）模型按总参数量计算。

按模型规模和工作负载列出的最便宜服务器
模型规模	FP8 推理	4 位推理	QLoRA 微调	全参数训练（混合精度，Adam）
8B参数量	1× RTX 5080$199/月	1× RTX 5080$199/月	1× RTX 5080$199/月	1× MI355X$1,409/月
32B参数量	2× RTX 4090$538/月	1× RTX 4090$269/月	1× RTX 5090$329/月	4× MI355X$5,636/月
70B参数量	1× RTX PRO 6000$959/月	2× RTX 5090$658/月	2× RTX 5090$658/月	8× MI355X$11,272/月
120B参数量	1× MI355X$1,409/月	1× RTX PRO 6000$959/月	4× RTX 5090$1,316/月	超出单台服务器
405B参数量	2× MI355X$2,818/月	1× MI355X$1,409/月	2× MI355X$2,818/月	超出单台服务器
671B参数量	4× MI355X$5,636/月	2× MI355X$2,818/月	2× MI355X$2,818/月	超出单台服务器

FP8 每参数约 1.2 字节，4-bit 约 0.65 字节，QLoRA 约 0.75 字节，全参数训练约 18 字节，均按 92% 显存可用计算。如需其他规模或精度，请使用选型助手。

输入参数量和精度，我们会列出所有适合的服务器，并按价格从低到高排序。