BTC
ETH
USDT
XMR
LTC
GPU 硬件10 分钟阅读
GPU VPS 与独立 GPU 服务器的区别：您实际租到的是什么
在 GPU VPS（GPU 云主机）和独立 GPU 服务器之间做选择，其实是在一条连续的光谱上做选择：一端是一张卡按时间分片分出的一份，另一端是一整台配备 8 块 GPU 的机器。下文将说明每类方案在隔离性、显存、NVLink、驱动控制权和计费方式上能为您提供什么，哪些问题可以把它们区分开，以及 CryptGPU 适合哪种需求。
CryptGPU 团队发布于
核心要点
- GPU VPS 可能是一张卡按时间分片分出的一份、一个固定切片（MIG 实例或 vGPU 配置文件），也可能是直通给虚拟机的整块 GPU；独立 GPU 服务器提供的则是不与任何人共用的整块 GPU。
- 在 80 GB 的 NVIDIA H100 上，最小的 MIG 切片 1g.10gb 只能分到八分之一的显存（10 GB）和七分之一的流式多处理器，而且 NVIDIA 明确表示 MIG 不支持 NCCL。
- 单纯的 GPU 时间分片在租户之间既没有显存隔离，也没有故障隔离；NVIDIA 默认的 vGPU 调度器允许一台虚拟机使用其他虚拟机闲置的计算周期，因此速度取决于同卡的其他租户。
- 要在您的 GPU 之间使用 NVLink，就必须是整块 GPU：在 vGPU 上，NVIDIA 只对占用整块 GPU 全部显存的配置文件支持 NVLink 点对点传输，基于 MIG 的 vGPU 则不支持。
- CryptGPU 只出租整块 GPU，每台服务器 1 至 8 块，不做时间分片，您的显卡上没有其他租户，提供 SSH root 权限，按固定月费计费，例如配备 NVLink 4 的 H100 SXM 每块 GPU 每月 $1,779。
GPU VPS 与独立 GPU 服务器：先说结论
GPU VPS 是一台可以使用 GPU 的虚拟机，而这种使用方式可以千差万别：从一张卡按时间分片分出的一份，到直通给您虚拟机的多块整卡，都有可能。独立 GPU 服务器（即独享 GPU 服务器）则为您提供不与任何人共用的整块 GPU，CPU、内存和存储也都为您预留。您实际得到的是什么，与其说取决于名称，不如说取决于三个事实：GPU 是轮流共享、被切成固定切片，还是整块归您；它的显存有多少归您；以及您的 GPU 之间是否通过 NVLink 互联。
“VPS”有时指的是切片，因为这样服务商就能把一块数据中心 GPU 卖给多位客户，而每位客户需要的都不到一整张卡；NVIDIA 的 MIG 和 vGPU 正是为此而设计的。2026年10月19日，AWS 列出的 G6f 实例最少只有八分之一块 NVIDIA L4 和 3 GB 显存（AWS），Azure 的 NVadsA10 v5 虚拟机则从六分之一块 NVIDIA A10、4 GiB 显存起步（Azure）。也有服务商用这个词指整张卡：Cloudzy 称其“GPU VPS”中的 GPU 是“独享直通，不是 vGPU，不是 MIG，也不共享”（Cloudzy）。有个简单的判断方法：如果某个套餐标明的显存少于这张卡的完整显存，那就是切片。
实际上，市面上的方案分为四类：
- 共享的时间分片 GPU：多个租户轮流使用同一张卡。
- GPU 切片：一张卡的固定切片，即 MIG 实例或 vGPU 配置文件。
- 虚拟机中的整块 GPU：直通给您虚拟机的完整显卡。
- 整台服务器：物理机及其全部 GPU，若主板配有 NVLink 或 NVSwitch，也一并包括在内。
共享、切片还是整卡：对比一览
以下六个问题可以把它们区分开；相关来源见后续各节。
| 比较项 | 共享（时间分片） | 切片：MIG 或 vGPU | 虚拟机中的整块 GPU | 整台服务器 |
|---|---|---|---|---|
| 隔离性 | 既无显存隔离，也无故障隔离 | MIG：带故障隔离的硬件分区。vGPU：独立的虚拟机和显存，但引擎共享 | GPU 不共享；但它所在的宿主机可能是共享的 | 机器内部没有任何共享 |
| 速度可预期 | 否：取决于同卡的其他租户 | MIG：是，这是其设计目标。vGPU：取决于调度器，默认为尽力而为模式 | 单块 GPU 是；GPU 之间的互联取决于宿主机如何划分主板 | 是，GPU 之间的互联也包括在内 |
| 您得到的显存 | 整张卡的显存，但共享且无隔离 | 固定切片：最小的 MIG 配置文件为 80 GB H100 中的 10 GB，最小的 vGPU 配置文件为 4 GB | 每张卡的完整显存 | 每张卡的完整显存 |
| 驱动与内核 | 宿主机的驱动；最多只有容器内的 root 权限 | 由宿主机掌控；vGPU 客户机驱动必须与宿主机的 vGPU Manager 兼容 | 虚拟机内使用您自己的 NVIDIA 驱动；Hypervisor 和宿主机内核仍由服务商掌控 | 全部归您：内核、驱动，以及 NVSwitch 主板上的 Fabric Manager |
| 多 GPU | 不支持 | MIG 不支持 NCCL；vGPU 仅在整卡配置文件下支持 NVLink 点对点 | 支持；在 NVSwitch 主板上，NVLink 带宽取决于服务商的分区方式 | 主板具备时使用 NVLink 或 NVSwitch，否则使用 PCIe |
| 常见计费方式 | 按秒或按小时 | 按秒或按小时 | 按小时或按月 | 通常按月，有时按小时 |
GPU 切片：MIG 切片与 vGPU 配置文件
MIG：硬件分区
多实例 GPU（MIG）可以把一块 GPU 拆分为最多七个实例。每个实例都拥有“贯穿整个显存系统的独立且相互隔离的路径”，因此即使其他实例让各自的显存满负荷运转，某个工作负载也能“以可预期的吞吐量和延迟”运行；NVIDIA 将其效果概括为确定的服务质量（QoS）和故障隔离（MIG 用户指南）。NVIDIA 列出的支持 MIG 的 GPU 包括 A100、A30、H100、H200、B200 和 RTX PRO 6000 Blackwell 服务器版等（支持的 GPU）。GeForce 显卡不在这份清单上，L40S 的规格表上写的也是“否”（NVIDIA L40S）。
切片是整张卡的一个固定比例。在 80 GB 的 H100 上，最小的配置文件 1g.10gb 分到八分之一的显存和 L2 缓存、七分之一的流式多处理器，一块 GPU 可以容纳七个这样的切片。H200 上最小的配置文件是 1g.18gb，B200 上是 1g.23gb，RTX PRO 6000 服务器版最多只能拆分为四个 1g.24gb 实例（MIG 配置文件）。对 AI 工作而言，有两项限制很关键：“MIG 目前不支持 NCCL”，而且点对点传输只能在同一块 GPU 的 MIG 实例之间进行（MIG 部署注意事项）。切片适合单设备任务。AMD 的 MI355X 同样可以拆分为 1、2、4 或 8 个相互隔离的计算分区，在八分区模式下每个分区 36 GB（AMD ROCm）。
vGPU：显存固定，引擎共享
NVIDIA vGPU 让多台虚拟机可以同时使用同一块物理 GPU（vGPU 用户指南）。每种 vGPU 类型都有固定的显存容量：在 H100 SXM5 80 GB 上，NVIDIA 的计算型 vGPU 类型从 H100XM-4C（4 GB，每块 GPU 最多 20 个）到占用整张卡的 H100XM-80C 不等（H100 vGPU 类型）。不支持 MIG 的显卡同样可以拆分：L40S 最小的配置文件只有 1 GB，每张卡最多 32 个（vGPU 类型）。
显存归您，引擎却不归您。对于时间分片的 vGPU，“GPU 会串行地为每台虚拟机执行工作”，而默认的尽力而为（best effort）调度器“允许一个 vGPU 使用其他 vGPU 未在使用的 GPU 处理周期”（vGPU 调度），因此您的速度会随其他虚拟机的负载而变化。也有均等份额（equal share）和固定份额（fixed share）调度器，但选用哪一种由宿主机一方决定。
客户机驱动必须是与宿主机 vGPU Manager 兼容的版本，否则“NVIDIA vGPU 将无法加载”（发行说明）。CUDA 开发者工具和统一内存默认处于禁用状态，需要由宿主机的运营方在 Hypervisor 一侧为每个 vGPU 单独启用（vGPU 配置）。此外，NVLink 点对点传输只适用于占用整块 GPU 全部显存的时间分片 vGPU，不适用于建立在 MIG 实例之上的 vGPU（P2P 支持）。
虚拟机中的整块 GPU：直通
用 NVIDIA 的话说：“GPU 直通用于将一整块物理 GPU 直接分配给一台虚拟机。”只有该虚拟机内的 NVIDIA 驱动能访问这张卡，这张卡不会在虚拟机之间共享，而且同一台虚拟机可以分配多块 GPU（NVIDIA）。您能得到每张卡的完整显存和全部引擎，并可以安装您想要的 NVIDIA 驱动。Hypervisor、宿主机内核以及虚拟机之外的硬件仍由服务商掌控。
在 HGX H100 或 B200 等配备 NVSwitch 的主板上，多 GPU 虚拟机还需要多检查一项。根据 NVIDIA 的 Fabric Manager 指南，采用完全直通时，2 GPU 和 4 GPU 虚拟机的 NVLink 带宽会降低，H100 级系统上的 4 GPU 虚拟机带宽还不对称；而 NVIDIA 推荐的共享 NVSwitch 模式能为它们提供完整带宽（Fabric Manager 指南）。因此，两个都标着“4× H100”的方案，即使硬件相同，扩展效果也可能不同。
整台服务器：全部 GPU、NVLink 与 NVSwitch
在光谱的另一端，您租下的是整台机器。在 8 块 GPU 的 SXM 主板上，每块 GPU 都能通过 NVLink 直达其他每一块 GPU：NVIDIA 的 HGX B200 和 B300 通过 NVLink 5 交换芯片连接八块 GPU，每块 GPU 1.8 TB/s（NVIDIA HGX）；H100 SXM 的 NVLink 带宽标称为 900 GB/s，而其 PCIe Gen5 链路为 128 GB/s（NVIDIA H100）。在 NVSwitch 主板上，这套互联网络由 Fabric Manager 服务构建；在裸机服务器上，它运行在您自己的主机上（Fabric Manager），与之配套的内核和驱动也由您自行选择。
PCIe 显卡没有这样的互联网络。NVIDIA 没有为 L40S 或 GeForce RTX 5090 列出 NVLink（L40S、RTX 5090），RTX PRO 6000 服务器版同样是 PCIe 卡，因此这些 GPU 之间通过 PCIe 交换数据。这适合数据并行训练以及每块 GPU 运行一个模型；张量并行在每一层都要交换数据，最能从 NVLink 中获益。我们的多 GPU 指南介绍了如何查看和测量拓扑。
租用前要问的问题
- GPU 是共享的，还是时间分片的？如果是，请问清楚有什么机制能阻止其他租户占用您的显存：单纯的时间分片做不到这一点。
- 是 MIG 切片还是 vGPU 配置文件？请索要确切的配置文件名称，例如 1g.10gb 或 H100XM-20C：从名称就能看出显存大小和所占 GPU 的份额。
- 显存到底有多少？要的是每块 GPU 多少 GB，而不是“最高可达”。
- 我的 GPU 之间有 NVLink 吗？请索要同一配置的
nvidia-smi topo -m输出。如果是 NVSwitch 主板，请问清楚 2 GPU 和 4 GPU 的机器能否获得完整的 NVLink 带宽。 - 有 root 权限吗？容器内的 root 并不等于服务器上的 root：驱动和内核仍归宿主机掌控。
- 能安装自己的驱动吗？直通或整台服务器可以；vGPU 只能安装与宿主机 vGPU Manager 兼容的版本；容器则不行。
- 如何计费？按秒、按小时还是按月，以及停用后您的数据会如何处理。
拿到访问权限后，用两条命令就能核实大部分答案（nvidia-smi、MIG 设备名称）：
nvidia-smi -L # 每块 GPU 及其 UUID；MIG 切片显示为 "MIG 1g.10gb Device 0"
nvidia-smi topo -m # NV# = 两块 GPU 之间的 NVLink；PIX、PXB、PHB、NODE、SYS = PCIe 路径CryptGPU 适合什么场景
CryptGPU 只出租整块 GPU。以下是它对上述问题的回答：
| 问题 | CryptGPU |
|---|---|
| 会共享或时间分片吗？ | 不会。您服务器中的 GPU 在整个月内都完全独享：不会分时共享，也不会有其他租户使用您的显卡。 |
| MIG 切片还是 vGPU 配置文件？ | 不做切片：整卡出租，每台服务器 1、2、4 或 8 块（GeForce 显卡为 1、2 或 4 块），每台服务器只配一种 GPU 型号。 |
| 显存 | 每张卡的完整显存：RTX 4090 为 24 GB，RTX 5090 为 32 GB，L40S 为 48 GB，H100 为 80 GB，RTX PRO 6000 为 96 GB。 |
| GPU 之间如何互联？ | H100 和 H200 每块 GPU 为 NVLink 4 · 900 GB/s，B200 和 B300 为 NVLink 5 · 1.8 TB/s，MI355X 为 Infinity Fabric · 1.07 TB/s。在这几款 NVIDIA 型号的 8 GPU 服务器中，NVSwitch 把每块 GPU 与其他每一块 GPU 连接起来；在 2 GPU 和 4 GPU 服务器中，可以用 nvidia-smi topo -m 查看连接方式。RTX PRO 6000、L40S 和 GeForce 显卡使用 PCIe。 |
| CPU、内存和磁盘？ | 每块 GPU 配有固定数量的资源，随 GPU 数量同步扩展：每块 H100 配 20 个 vCPU、200 GB DDR5 RAM 和 2 TB NVMe 存储。 |
| root 权限与驱动？ | 提供 SSH root 权限。下单时可以选择预装 GPU 驱动、CUDA 或 ROCm 以及 Docker，也可以选择纯净操作系统；无论哪种方式，都由您以 root 身份自行管理。 |
| 如何计费？ | 按月预付，价格在已付费的月份内固定不变，不按小时计费，也没有长期合约。无论服务器规模大小，每块 GPU 价格相同：H100 每块 $1,779，RTX PRO 6000 每块 $959，RTX 5090 每块 $329。未续费的服务器会在付费月结束时停止运行，磁盘也会被清空。 |
这适合让整块 GPU 在一个月的大部分时间里都保持忙碌的工作：全天候提供服务的模型、长时间的微调、多 GPU 训练。以 H100 为例，只要 GPU 每天运行超过约 16.8 小时，在 CryptGPU 租用一个月就比按市场中位按需小时价计费更省钱；低于这个时长，按小时计费更便宜（参见各款 GPU 的盈亏平衡点）。
如果您只需要运行一个 Notebook 或一个能放进切片的小模型、只需要几个小时的算力，或者需要用 InfiniBand 连接多台服务器，CryptGPU 并不是合适的选择：GPU 切片或按小时计费的实例更适合这些需求。除此之外，您可以查看我们出租的全部 GPU、各规格服务器的价格、RTX PRO 6000 vs RTX 5090（单卡 96 GB 还是 32 GB）、我们为什么按月出租以及常见问题，或者直接配置服务器。
GPU VPS 与独立 GPU 服务器：常见问题
GPU VPS（GPU 云主机）是什么？
一台可以使用 GPU 的虚拟专用服务器：视服务商而定，它可能是一张卡按时间分片分出的一份、一个固定切片（MIG 实例或 vGPU 配置文件），也可能是直通给虚拟机的整卡。如果标明的显存少于这张卡的完整显存，那就是切片。
vGPU 与直通有什么区别？
直通把一整块物理 GPU 分配给一台虚拟机，由该虚拟机内自己的 NVIDIA 驱动控制。vGPU 则让多台虚拟机共享一块 GPU，每台虚拟机拥有固定容量的显存；除非其配置文件占用整张卡，否则各虚拟机按时间分片共享引擎。
MIG 切片比整块 GPU 慢吗？
它的各项资源都更少：H100 的 1g.10gb 切片只分到七分之一的流式多处理器，以及八分之一的显存和 L2 缓存。作为交换，无论其他切片在做什么，它的缓存和显存带宽都保持不变。
GPU 切片能运行 LLM 吗？
能运行小模型。按我们的选型规则（显存按 92% 计为可用），10 GB 的切片在 FP8 下可容纳约 7B 参数的模型，在 4-bit 下约 14B；而 70B 模型在 FP8 下约需 84 GB。选型助手会列出适合给定模型的配置。
能在 GPU VPS 上进行多 GPU 训练吗？
只有使用整块 GPU 时才可以：MIG 不支持 NCCL，而 vGPU 上的 NVLink 点对点传输需要整卡配置文件。如果是虚拟机中的整块 GPU，请问清楚 NVLink 互联网络是如何分区的。
