GPU VPS или выделенный GPU-сервер: что вы получаете на самом деле

GPU VPS или выделенный GPU-сервер: коротко

GPU VPS — это виртуальная машина (ВМ) с доступом к GPU, и этот доступ может быть каким угодно: от доли одной карты с разделением по времени до нескольких целых карт, проброшенных в вашу ВМ. Выделенный GPU-сервер даёт вам целые GPU, которыми больше никто не пользуется, а также зарезервированные за вами CPU, RAM и хранилище. Что вы получаете на самом деле, зависит не столько от названия, сколько от трёх фактов: используется ли GPU по очереди с другими, нарезан ли он на фиксированные доли или достаётся вам целиком; какая часть его памяти принадлежит вам; и связаны ли ваши GPU через NVLink.

Под «VPS» иногда понимают долю карты: так провайдер может продать один GPU для дата-центров нескольким клиентам, каждому из которых не нужна карта целиком; именно для этого и существуют MIG и vGPU от NVIDIA. По состоянию на 19 октября 2026 г. в каталоге AWS были инстансы G6f с минимальной долей в одну восьмую NVIDIA L4 и 3 ГБ памяти GPU (AWS), а виртуальные машины Azure NVadsA10 v5 начинались с одной шестой NVIDIA A10 и 4 ГиБ (Azure). Другие называют так и целые карты: по словам Cloudzy, GPU в её тарифах «GPU VPS» — это «выделенный проброс, не vGPU, не MIG, без совместного использования» (Cloudzy). Быстрая проверка: если в описании тарифа памяти GPU меньше, чем у карты целиком, перед вами доля.

На практике встречаются четыре типа предложений:

1. Общий GPU с разделением по времени: несколько арендаторов по очереди используют одну карту.
2. Доля GPU: фиксированная часть одной карты — инстанс MIG или профиль vGPU.
3. Целые GPU в ВМ: полноценные карты, проброшенные в вашу виртуальную машину.
4. Сервер целиком: физическая машина со всеми её GPU, с NVLink или NVSwitch, если они есть на плате.

Общий, разделённый на доли или целый GPU: сравнение

Различия сводятся к шести вопросам; источники приведены в следующих разделах.

Общие GPU с разделением по времени

Общий GPU — противоположность выделенного: несколько нагрузок по очереди работают на одной и той же карте. NVIDIA GPU Operator для Kubernetes может представить одну карту как несколько «реплик», нагрузки которых чередуются, и тогда «GPU просто выделяет равную долю времени всем GPU-процессам во всех подах». NVIDIA прямо называет цену такого подхода: «В отличие от Multi-Instance GPU (MIG), между репликами нет изоляции памяти и сбоев», а запрос нескольких GPU с разделением по времени не гарантирует пропорциональной доли вычислительной мощности (NVIDIA GPU Operator).

В итоге ваша задача работает так быстро, как позволяют другие арендаторы, а любой из них может занять память, на которую рассчитывала ваша задача. Такое разделение рассчитано на контейнеры, а контейнерные инструменты NVIDIA «берут на себя монтирование подходящих драйверов NVIDIA» с хоста (NVIDIA): вы работаете на драйвере хоста, что бы вы ни установили в образ. Разделение по времени подходит для Jupyter-ноутбуков, разработки и лёгкого инференса, но не для задач, которым нужен заранее известный объём памяти или стабильная задержка.

Доли GPU: инстансы MIG и профили vGPU

MIG: аппаратное разделение

Multi-Instance GPU (MIG) делит один GPU максимум на семь инстансов. Каждый получает «отдельные и изолированные пути через всю подсистему памяти», так что нагрузка выполняется «с предсказуемой пропускной способностью и задержкой», даже когда остальные полностью загружают собственную память; NVIDIA описывает результат как заданное качество обслуживания (QoS) с изоляцией сбоев (руководство пользователя MIG). Среди GPU с поддержкой MIG NVIDIA называет, в частности, A100, A30, H100, H200, B200 и RTX PRO 6000 Blackwell Server Edition (поддерживаемые GPU). Карт GeForce в этом списке нет, а в спецификации L40S значится «Нет» (NVIDIA L40S).

Инстанс — это фиксированная доля карты. На H100 с 80 ГБ самый маленький профиль, 1g.10gb, получает одну восьмую памяти и кэша L2 и одну седьмую потоковых мультипроцессоров (SM), а на одном GPU помещается семь таких инстансов. На H200 самый маленький профиль — 1g.18gb, на B200 — 1g.23gb, а RTX PRO 6000 Server Edition делится максимум на четыре инстанса 1g.24gb (профили MIG). Для задач ИИ важны два ограничения: «NCCL в настоящее время не поддерживается с MIG», а прямая передача данных peer-to-peer (P2P) работает только между инстансами MIG одного и того же GPU (особенности развёртывания MIG). Инстанс MIG предназначен для задач на одном устройстве. AMD MI355X тоже можно разделить на 1, 2, 4 или 8 изолированных вычислительных партиций, по 36 ГБ каждая в режиме разделения на восемь (AMD ROCm).

vGPU: фиксированная память, общие вычислительные блоки

NVIDIA vGPU позволяет нескольким виртуальным машинам одновременно использовать один физический GPU (руководство пользователя vGPU). У каждого типа vGPU фиксированный объём памяти: для H100 SXM5 с 80 ГБ вычислительные типы NVIDIA варьируются от H100XM-4C (4 ГБ, до 20 на GPU) до H100XM-80C, который занимает всю карту (типы vGPU для H100). Разделить можно и карты без MIG: у самого маленького профиля L40S —1 ГБ, и таких профилей на карте может быть до 32 (типы vGPU).

Память ваша, а вычислительные блоки — нет. При vGPU с разделением по времени «GPU выполняет работу каждой ВМ последовательно», а планировщик best effort, который используется по умолчанию, «позволяет vGPU использовать циклы обработки GPU, не используемые другими vGPU» (планирование vGPU), поэтому ваша скорость зависит от нагрузки соседей. Существуют и планировщики с равными (equal share) и фиксированными (fixed share) долями, но выбор за хостом.

Версия гостевого драйвера должна быть совместима с vGPU Manager хоста, иначе «NVIDIA vGPU не загружается» (примечания к выпуску). Инструменты разработчика CUDA и унифицированная память по умолчанию отключены, и включает их для каждого vGPU на стороне гипервизора тот, кто управляет хостом (настройка vGPU). Наконец, P2P-передача по NVLink работает только на vGPU с разделением по времени, которым отведена вся память GPU, и не работает на vGPU, размещённых на инстансах MIG (поддержка P2P).

Целые GPU в ВМ: проброс (passthrough)

По словам NVIDIA, «проброс GPU (pass-through) используется для того, чтобы напрямую назначить целый физический GPU одной ВМ». К карте обращается только драйвер NVIDIA внутри этой ВМ, карта не делится между ВМ, а одной ВМ можно назначить несколько GPU (NVIDIA). Вы получаете всю память и все вычислительные блоки каждой карты и устанавливаете тот драйвер NVIDIA, который вам нужен. Гипервизор, ядро хоста и оборудование вокруг вашей ВМ остаются за провайдером.

ВМ с несколькими GPU на платах с NVSwitch, таких как HGX H100 или B200, требуют ещё одной проверки. Согласно руководству NVIDIA по Fabric Manager, при полном пробросе (full passthrough) ВМ с 2 и 4 GPU получают пониженную пропускную способность NVLink, а ВМ с 4 GPU на системах класса H100 — ещё и асимметричную, тогда как модель с общим NVSwitch (shared NVSwitch), которую рекомендует NVIDIA, даёт им полную пропускную способность (руководство по Fabric Manager). Поэтому два предложения, в которых одинаково указано «4× H100», могут по-разному масштабироваться на одном и том же оборудовании.

Сервер целиком: все GPU, NVLink и NVSwitch

На другом конце шкалы вы арендуете машину целиком. На плате SXM с 8 GPU каждый GPU связан с любым другим через NVLink: в NVIDIA HGX B200 и B300 восемь GPU соединены через коммутаторы NVLink 5 со скоростью 1,8 ТБ/с на GPU (NVIDIA HGX), а для H100 SXM заявлено 900 ГБ/с по NVLink против 128 ГБ/с по его интерфейсу PCIe Gen5 (NVIDIA H100). На платах с NVSwitch эту фабрику выстраивает служба Fabric Manager; на физическом (bare-metal) сервере она работает на вашем собственном хосте (Fabric Manager), рядом с ядром и драйвером, которые вы выбираете сами.

У карт с PCIe такой фабрики нет. NVIDIA не указывает NVLink ни для L40S, ни для GeForce RTX 5090 (L40S, RTX 5090), а RTX PRO 6000 Server Edition — тоже PCIe-карта, поэтому их GPU обмениваются данными через PCIe. Это подходит для обучения с параллелизмом данных и для запуска отдельной модели на каждом GPU; тензорный параллелизм, который обменивается данными на каждом слое, больше всего выигрывает от NVLink. В нашем руководстве по multi-GPU показано, как читать и измерять топологию.

Что спросить у провайдера перед арендой

• GPU общий или разделён по времени? Если да, спросите, что мешает соседу занять вашу память: простое разделение по времени этому не препятствует.
• Это инстанс MIG или профиль vGPU? Спросите точное название профиля, например 1g.10gb или H100XM-20C: по нему видны объём памяти и доля GPU.
• Сколько именно памяти GPU? В ГБ на GPU, а не «до».
• Есть ли NVLink между моими GPU? Попросите вывод nvidia-smi topo -m для той же конфигурации. На платах с NVSwitch уточните, получают ли машины с 2 и 4 GPU полную пропускную способность NVLink.
• Есть ли root-доступ? Root внутри контейнера — это не root на сервере: драйвер и ядро остаются за хостом.
• Можно ли установить свой драйвер? Да — при пробросе или на сервере целиком; на vGPU — только версии, совместимые с vGPU Manager хоста; в контейнере — нет.
• Как тарифицируется аренда? Посекундно, почасово или помесячно — и что происходит с вашими данными, когда вы прекращаете аренду.

Когда вы получите доступ, большинство ответов можно проверить двумя командами (nvidia-smi, имена устройств MIG):

nvidia-smi -L        # каждый GPU и его UUID; инстансы MIG выводятся как "MIG 1g.10gb Device 0"
nvidia-smi topo -m   # NV# = NVLink между двумя GPU; PIX, PXB, PHB, NODE, SYS = пути через PCIe

Место CryptGPU в этом сравнении

CryptGPU сдаёт в аренду только целые GPU. Вот как CryptGPU отвечает на вопросы выше:

Это подходит для задач, которые загружают целые GPU большую часть месяца: круглосуточный инференс моделей, длительное дообучение, обучение на нескольких GPU. Для H100 месяц в CryptGPU обходится дешевле, чем аренда по медианной почасовой цене по требованию, если GPU работает больше примерно 16,8 часа в сутки; при меньшей загрузке выгоднее почасовая оплата (см. точку окупаемости для каждого GPU).

Это не лучший выбор для Jupyter-ноутбука или небольшой модели, которая помещается в долю GPU, для нескольких часов вычислений или для нескольких серверов, объединённых через InfiniBand: здесь лучше подойдут доля GPU или почасовой инстанс. В остальных случаях смотрите все GPU, которые мы сдаём в аренду, цены по размерам серверов, RTX PRO 6000 vs RTX 5090, если выбираете между 96 ГБ и 32 ГБ на карту, почему мы сдаём серверы помесячно и вопросы и ответы — или настройте сервер.

GPU VPS и выделенный GPU-сервер: вопросы и ответы

Что такое GPU VPS?

Это виртуальный частный сервер (VPS) с доступом к GPU, проще говоря — VPS с видеокартой. В зависимости от провайдера это доля карты с разделением по времени, фиксированная доля (инстанс MIG или профиль vGPU) или целые карты, проброшенные в ВМ. Если указанный объём памяти GPU меньше полной памяти карты, это доля.

vGPU или проброс: в чём разница?

Проброс отдаёт одной ВМ целый физический GPU, которым управляет собственный драйвер NVIDIA этой ВМ. vGPU делит один GPU между несколькими ВМ: у каждой фиксированный объём памяти и, если её профиль не занимает всю карту, доля вычислительных блоков с разделением по времени.

Медленнее ли инстанс MIG, чем целый GPU?

Ресурсов у него меньше во всём: инстанс 1g.10gb на H100 получает одну седьмую потоковых мультипроцессоров и одну восьмую памяти и кэша L2. Зато пропускная способность кэша и памяти у него остаётся неизменной, что бы ни делали остальные инстансы.

Можно ли запустить LLM на доле GPU?

Небольшую — да. По нашему правилу оценки размера, при котором полезными считаются 92% памяти, в долю на 10 ГБ помещается модель примерно на 7B параметров в FP8 или на 14B в 4-битном формате; модели на 70B в FP8 нужно около 84 ГБ. Подбор GPU под модель показывает конфигурации, подходящие для заданной модели.

Можно ли на GPU VPS обучать модель на нескольких GPU?

Только на целых GPU: NCCL не поддерживается с MIG, а P2P по NVLink на vGPU требует профилей на весь GPU. Если вам дают целые GPU в ВМ, спросите, как разбита фабрика NVLink.