BTC
ETH
USDT
XMR
LTC
Документация
Документация по GPU-серверам.
Всё необходимое для вашего сервера: первый вход, SSH, драйверы, CUDA и ROCm, контейнеры, задачи на нескольких GPU, инференс, дообучение, чат- и графические приложения и данные.
14 руководств · Справочник по API цен
Начало работы
- Ваш первый час на новом GPU-сервере Войдите на новый GPU-сервер, проверьте GPU, CPU, память и диски, обновите ОС и создайте sudo-пользователя. Команды для Ubuntu 22.04 и 24.04 LTS. 5 мин чтения · 6 разделов
- Доступ по SSH: ключи, файрвол, туннели и передача файлов Настройте ключи ed25519, отключите вход по паролю, включите ufw и fail2ban, держите задачи в tmux, пробросьте Jupyter и копируйте данные через rsync. 5 мин чтения · 8 разделов
- Оплата, платежи в криптовалюте и продление аренды Оплата в CryptGPU: помесячная предоплата в USD, платежи в BTC, ETH, USDT, XMR или LTC, продление, завершение аренды и возврат средств. 4 мин чтения · 8 разделов
ПО для GPU
- Драйверы NVIDIA, CUDA и Fabric Manager в Ubuntu Установите драйвер NVIDIA и CUDA toolkit на Ubuntu: резидентный режим, Fabric Manager на HGX, проверка NVLink, MIG и ошибки Xid. 9 мин чтения · 7 разделов
- ROCm на AMD Instinct MI355X: установка и проверка Установите драйвер AMD GPU и ROCm на MI355X, проверьте через rocminfo и amd-smi, запустите PyTorch и контейнеры ROCm, протестируйте RCCL. 6 мин чтения · 8 разделов
- Docker с GPU: контейнеры NVIDIA и ROCm Установите Docker и NVIDIA Container Toolkit, запускайте образы NGC и ROCm с доступом к GPU, резервируйте GPU в Docker Compose. 6 мин чтения · 7 разделов
Нагрузки
- Multi-GPU на одном сервере: топология, NCCL и torchrun Топология GPU, переменные NCCL, запуск задач на 2, 4 или 8 GPU через torchrun, замер пропускной способности через nccl-tests и RCCL на AMD MI355X. 6 мин чтения · 7 разделов
- Инференс LLM с помощью vLLM на выделенных GPU Запуск открытых моделей на vLLM на 1–8 GPU: тензорный параллелизм, квантование FP8 и 4-бит, API, совместимый с OpenAI, за SSH или TLS. 6 мин чтения · 7 разделов
- Инференс LLM с помощью SGLang на GPU-сервере Как развернуть SGLang на GPU-сервере: установка через uv или Docker, sglang serve на localhost с API-ключом, параллелизм на нескольких GPU, FP8, AMD MI355X. 13 мин чтения · 9 разделов
- Дообучение LLM с LoRA и QLoRA Как дообучить нейросеть на своём сервере: fine-tuning LLM с LoRA и QLoRA, память по размеру модели, скрипт TRL SFTTrainer, Unsloth, multi-GPU и инференс в vLLM. 12 мин чтения · 9 разделов
- Локальные NVMe, RAID 0 и перемещение данных Находите, форматируйте и монтируйте NVMe по UUID, переносите данные rsync и rclone, делайте резервные копии до конца срока. 5 мин чтения · 7 разделов
Приложения
- Запуск Ollama и Open WebUI на GPU-сервере Установка Ollama на Ubuntu и Open WebUI на GPU-сервере: скрипт, systemd, модели на NVMe, Open WebUI в Docker на localhost, SSH или Caddy, API в стиле OpenAI. 12 мин чтения · 8 разделов
- Установка и запуск ComfyUI на GPU-сервере ComfyUI на Ubuntu: установка на удалённый GPU-сервер, PyTorch для CUDA 13, модели на NVMe через hf CLI, служба systemd на GPU, ComfyUI-Manager и SSH-туннели. 12 мин чтения · 9 разделов
- JupyterLab на GPU-сервере Удалённый Jupyter с GPU: PyTorch для CUDA или ROCm в venv, служба systemd на localhost с паролем, доступ через SSH-туннель и выбор GPU для Jupyter-ноутбуков. 11 мин чтения · 9 разделов
Нет подходящих руководств. Попробуйте другое слово или спросите нас.
API цен
Публичные JSON-эндпоинты нашего каталога GPU, цен и расчёта стоимости. Ключ не нужен.
GET /api/v1/gpus
Справочник по API
# войти
$ ssh root@<адрес-сервера>
# GPU, память и загрузка
$ nvidia-smi # NVIDIA
$ rocm-smi # AMD
# топология GPU (NVLink, PCIe)
$ nvidia-smi topo -m
# контейнер, который видит все GPU
$ docker run --rm --gpus all ubuntu nvidia-smiЧто-то не получается? Спросите нас.
Расскажите нам о своём GPU, что вы запустили и что получили. Мы ответим по эл. почте.