Ваш первый час на новом GPU-сервере

Что вы получаете

Сервер CryptGPU — это выделенная машина, арендуемая помесячно, которая становится доступна менее чем через 10 минут после подтверждения оплаты в блокчейне. Он включает две вещи: адрес сервера и root-доступ по SSH. GPU принадлежат только вам на весь срок аренды — никакого разделения GPU по времени и никаких сторонних арендаторов на ваших картах.

При заказе шаг «ПО» позволяет получить Ubuntu с установленными драйвером GPU, CUDA или ROCm и Docker, а также, по желанию, сервер моделей (vLLM, SGLang или Ollama с Open WebUI) с моделью, ComfyUI или JupyterLab. Всё остальное — на ваш выбор, и вы можете изменить это как root. Команды в этих руководствах рассчитаны на Ubuntu 22.04 или 24.04 LTS. На другом дистрибутиве шаги те же, но названия пакетов и сам пакетный менеджер отличаются (например, dnf вместо apt).

В примерах 203.0.113.10 обозначает адрес вашего сервера, а alice — имя вашего пользователя. Замените оба значения.

Первый вход

Подключайтесь из терминала на вашем компьютере. Клиент OpenSSH встроен в Linux, macOS и Windows 10 и 11 (PowerShell или Windows Terminal).

ssh root@203.0.113.10

При первом подключении SSH показывает отпечаток хост-ключа сервера и просит подтвердить его. Затем SSH запоминает ключ и предупредит вас, если он когда-нибудь изменится. Перед тем как выполнять что-либо ещё, проверьте, какая у вас система:

cat /etc/os-release
uname -r

Если вы вошли по паролю, задайте новый пароль и переходите на аутентификацию по ключу. Создайте ключ на своём компьютере, как показано в разделе Доступ по SSH, затем скопируйте его на сервер:

# на сервере: задайте новый пароль root
passwd

# на вашем компьютере (Linux или macOS; для Windows см. руководство по SSH)
ssh-copy-id -i ~/.ssh/id_ed25519.pub root@203.0.113.10

Проверьте оборудование

Сравните то, что показывает система, с заказанной конфигурацией: модель и количество GPU, vCPU, объём памяти и NVMe.

GPU

Если драйвер GPU уже установлен:

# NVIDIA: модель, память, версия драйвера, процессы
nvidia-smi
nvidia-smi -L          # одна строка на каждый GPU
nvidia-smi topo -m     # как соединены GPU: NVLink (NV#) или PCIe

# AMD Instinct MI355X
amd-smi list
amd-smi topology

Матрица топологии и её значение для обучения и инференса объясняются в разделе Multi-GPU.

Если nvidia-smi или amd-smi не найдены, значит, драйвер ещё не установлен. GPU всё равно видны на шине PCI (10de — идентификатор производителя NVIDIA, 1002 — AMD):

lspci -d 10de: | grep -Ei '3d controller|vga compatible'   # GPU NVIDIA
lspci -d 1002:                                             # GPU AMD

Затем установите драйвер: Драйверы NVIDIA и CUDA или ROCm на MI355X.

CPU, память и диски

lscpu | grep -E 'Model name|^CPU\(s\)|NUMA node\(s\)'
free -h
lsblk -o NAME,SIZE,TYPE,FSTYPE,MOUNTPOINTS,MODEL
df -h

free -h показывает немного меньше памяти, чем установлено физически, потому что часть её резервируют прошивка и ядро. lsblk перечисляет все диски NVMe; если на каком-то из них ещё нет файловой системы, раздел Хранилище и данные показывает, как его отформатировать и подключить.

Обновите операционную систему

sudo apt update
sudo apt full-upgrade -y
sudo apt install -y build-essential git curl tmux htop nvtop
[ -f /var/run/reboot-required ] && sudo reboot

Перезагрузка после обновления ядра — это нормально; переподключитесь, когда сервер снова будет доступен. Сделайте это до установки драйвера GPU, чтобы драйвер был собран для того ядра, которое вы будете реально использовать.

Ubuntu автоматически устанавливает обновления безопасности с помощью unattended-upgrades. Если ваш драйвер GPU взят из собственного архива Ubuntu, такое обновление может заменить драйвер во время работы задач, и новые процессы начнут завершаться с ошибкой несовпадения версий драйвера и библиотеки, пока вы не перезагрузитесь. В разделе Драйверы NVIDIA и CUDA объясняется, как закрепить версию драйвера.

Создайте обычного пользователя с правами sudo

Работайте как обычный пользователь и используйте sudo только при необходимости. От имени root создайте пользователя, дайте ему права sudo и скопируйте на него свой SSH-ключ:

adduser alice                  # запросит пароль; его будет использовать sudo
usermod -aG sudo alice
install -d -m 700 -o alice -g alice /home/alice/.ssh
install -m 600 -o alice -g alice /root/.ssh/authorized_keys /home/alice/.ssh/authorized_keys

На сервере с AMD также добавьте пользователя в группы, которым разрешён доступ к GPU: usermod -aG render,video alice.

Проверьте это из второго терминала на своём компьютере, прежде чем менять что-либо ещё:

ssh alice@203.0.113.10
sudo -v && echo "sudo works"

Далее отключите вход по паролю, ограничьте root и включите файрвол, как описано в разделе Доступ по SSH.

Что делать далее

• Доступ по SSH: вход только по ключу, ufw, fail2ban, tmux, туннели и rsync.
• Драйверы NVIDIA и CUDA или ROCm на AMD Instinct MI355X.
• Контейнеры: Docker с NVIDIA Container Toolkit или образами ROCm.
• Хранилище и данные: форматирование дисков NVMe и планирование резервного копирования.
• Обучение на нескольких GPU (Multi-GPU) и инференс моделей.
• Биллинг и оплата: продление и что происходит по окончании срока аренды.

Вопросы — через форму обратной связи. Чтобы спланировать ещё один сервер, используйте конфигуратор или прайс-лист.