Настройте свой GPU-сервер.
Выберите GPU и размер или начните с модели, которую хотите запустить. Ежемесячная цена, медиана рынка и полные характеристики сервера обновляются на ходу.
Как мы оцениваем объём памяти GPU.
Режим «По размеру модели» умножает число параметров на количество байт на параметр, а затем оставляет 8% памяти GPU свободными.
| Задача | Байт / параметр | Модель 70B | Самый дешёвый вариант |
|---|---|---|---|
| Инференс FP16 / BF16 | ≈ 2,4 | 168 ГБ | 1× MI355X1 409 $/мес. |
| Инференс FP8 | ≈ 1,2 | 84 ГБ | 1× RTX PRO 6000959 $/мес. |
| Инференс 4-бит | ≈ 0,65 | 46 ГБ | 2× RTX 5090658 $/мес. |
| Дообучение QLoRA | ≈ 0,75 | 53 ГБ | 2× RTX 5090658 $/мес. |
| Дообучение LoRA (BF16) | ≈ 3 | 210 ГБ | 1× MI355X1 409 $/мес. |
| Полное обучение (смешанная точность, Adam) | ≈ 18 | 1 260 ГБ | 8× MI355X11 272 $/мес. |
Что учитывают эти цифры
- Инференс: веса (2, 1 или около 0,5 байта на параметр) плюс 20–30% для KV-кэша.
- LoRA и QLoRA: замороженная базовая модель, адаптеры, градиенты и активации.
- Полное обучение: веса, градиенты и состояния оптимизатора Adam в смешанной точности, плюс запас для активаций.
MoE-модели считаются по общему числу параметров: каждый эксперт хранится в памяти целиком. Длинный контекст и много параллельных запросов требуют больше памяти для KV-кэша.
В каждую конфигурацию входит.
- Выделенные GPUНикакого разделения GPU по времени и никаких сторонних арендаторов на ваших картах.
- Root-доступ по SSHУстанавливайте свои драйверы, CUDA или ROCm, контейнеры и фреймворки.
- DDR5 RAM и локальный NVMevCPU, RAM и NVMe масштабируются в зависимости от количества GPU.
- Единая цена за GPUПри любом размере сервера — от 1 до 8 GPU.
- ПомесячноПредоплата помесячно, продление — когда решите вы. Без долгосрочного контракта.
- Оплата криптовалютойBTC, ETH, USDT, XMR или LTC.
Настроили? Вот что будет дальше.
-
1
Запустите его
Кнопка «Запустить» открывает форму заказа с этим GPU, размером и ценой. Укажите эл. почту и открытый SSH-ключ. Форма заказа
-
2
Оплата криптовалютой
Один платёж в BTC, ETH, USDT, XMR или LTC покрывает один месяц. Сервер запускается, как только платёж подтверждается в блокчейне. Подробнее об оплате
-
3
Войдите как root
Вы получаете адрес сервера и root-доступ по SSH, а также программное обеспечение, которое вы выбрали при заказе. Первые шаги
Вопросы о конфигурации.
Остались вопросы? Спросите нас.
Цена за GPU одинакова для любого размера сервера?
Да. Сервер с n GPU стоит в n раз больше цены одного GPU — от 1 до 8 GPU. vCPU, RAM и NVMe масштабируются в той же пропорции.
Можно ли сочетать разные модели GPU в одном сервере?
Нет. У каждого сервера одна модель GPU. Чтобы использовать две модели, например H200 для инференса и RTX 5090 для генерации изображений, настройте два сервера.
Можно ли добавить GPU на сервер позже?
Закажите нужный размер как новый сервер и перенесите свои данные; старый сервер сохраняет свой срок аренды до его окончания. Перенос данных между серверами — ваша ответственность.
Почему нельзя выбрать 8 карт GeForce?
Серверы GeForce (RTX 5090, 4090, 5080) доступны с 1, 2 или 4 картами. GPU для дата-центров, а также RTX PRO 6000 и L40S — с 1, 2, 4 или 8.
Насколько точен подбор размера под модель?
Это приближённая оценка: байты на параметр для выбранной точности или метода обучения, с запасом на KV-кэш и активации, при этом полезными считаются 92% памяти GPU. Очень длинный контекст, большие батчи и некоторые фреймворки требуют больше — проверяйте на своей задаче.
Как заказать эту конфигурацию?
Нажмите кнопку «Запустить» в сводке: откроется форма заказа с этим GPU, размером и ценой. Укажите эл. почту и SSH-ключ, выберите монету — и страница заказа покажет реквизиты для оплаты. Аккаунт не нужен.
