Новинка NVIDIA B300 · серверы 288 ГБ HBM3e — от 4 019 $/мес. за GPU

Посмотреть B300

Открытая модель · Qwen · Apache 2.0

Запустите Qwen3.5 9B
на собственных GPU.

Плотная vision-language-модель с контекстом 262K токенов. 9B параметров, 19 ГБ официальных весов BF16.

  • 23 ГБВидеопамять, BF16
  • 11 ГБВидеопамять, FP8
  • 1× RTX 5080самый дешёвый сервер, FP8
  • 199 $в месяц

Сколько видеопамяти требуется для Qwen3.5 9B.

Веса × 1,2 для KV-кэша и активаций, с учётом того, что можно использовать 92% видеопамяти — это правило, которое использует страница оформления сервера. Для длинных контекстов и большого числа параллельных запросов нужно больше.

Видеопамять, необходимая для Qwen3.5 9B, и самый дешёвый сервер
Вариант развёртыванияПамять GPUСамый дешёвый серверВ месяцДействие
vLLM или SGLang, официальные веса BF16 23 ГБ 1× NVIDIA RTX 5090 329 $/мес. Запустить
vLLM или SGLang, FP8 11 ГБ 1× NVIDIA RTX 5080 199 $/мес. Запустить
Ollama + Open WebUI, qwen3.5:9b (квантованная сборка) 7,9 ГБ 1× NVIDIA RTX 5080 199 $/мес. Запустить

Веса: Qwen/Qwen3.5-9B · 19 ГБ, BF16 · Ollama: qwen3.5:9b, 6,6 ГБ. Как мы оцениваем объём видеопамяти

На каких GPU можно запустить Qwen3.5 9B.

Самый маленький сервер каждого типа GPU, на котором помещается модель, и его цена в месяц.

Число GPU, необходимое для Qwen3.5 9B, по типам GPU
GPUBF16FP8OllamaЦена, BF16
NVIDIA B300288 ГБ HBM3e 1× 1× 1× 4 019 $/мес.
NVIDIA B200180 ГБ HBM3e 1× 1× 1× 3 439 $/мес.
AMD MI355X288 ГБ HBM3E н/д н/д 1× —
NVIDIA H200141 ГБ HBM3e 1× 1× 1× 2 279 $/мес.
NVIDIA H10080 ГБ HBM3 1× 1× 1× 1 779 $/мес.
NVIDIA RTX PRO 600096 ГБ GDDR7 ECC 1× 1× 1× 959 $/мес.
NVIDIA L40S48 ГБ GDDR6 ECC 1× 1× 1× 789 $/мес.
NVIDIA RTX 509032 ГБ GDDR7 1× 1× 1× 329 $/мес.
NVIDIA RTX 409024 ГБ GDDR6X 2× 1× 1× 538 $/мес.
NVIDIA RTX 508016 ГБ GDDR7 2× 1× 1× 398 $/мес.

н/д = поддержка ROCm для этой модели не подтверждена в vLLM или SGLang. — = больше самого большого сервера этого GPU. Подобрать другую модель

Qwen3.5 9B можно запустить с предустановкой.

Выберите модель на шаге «ПО» страницы оформления сервера: мы установим её с выбранным вами движком без дополнительной платы.

  1. 1

    Выберите сервер

    Страница оформления сервера предлагает самый дешёвый сервер, на котором помещается модель, и меняет вариант при изменении точности или движка.

  2. 2

    Выберите движок

    vLLM или SGLang предоставляют API, совместимый с OpenAI; Ollama с Open WebUI даёт приватный чат в браузере.

  3. 3

    Оплатите и войдите

    Оплатите месяц в BTC, ETH, USDT, XMR или LTC — без KYC. Ваш сервер будет онлайн менее чем через 10 минут после подтверждения платежа, с root-доступом по SSH.

Руководства: инференс LLM с vLLM · инференс LLM с SGLang · Ollama с Open WebUI · LLM на своём сервере · GPU-серверы для инференса LLM · первые шаги на сервере

Вопросы и ответы: Qwen3.5 9B.

Все модели: открытые модели и их видеопамять.

Сколько видеопамяти нужно для Qwen3.5 9B?

Около 23 ГБ видеопамяти, чтобы запускать официальные веса BF16 (19 ГБ) через vLLM или SGLang, по нашему правилу «веса × 1,2» для KV-кэша и активаций; около 11 ГБ в FP8; около 7,9 ГБ со сборкой qwen3.5:9b от Ollama. Для длинных контекстов и большого числа параллельных запросов нужно больше.

Может ли Qwen3.5 9B работать на одном GPU?

Да, на одном B300, B200, H200, H100, RTX PRO 6000, L40S, RTX 5090, RTX 4090 или RTX 5080 с vLLM или SGLang, FP8, по нашему правилу подбора.

Какой самый дешёвый сервер для Qwen3.5 9B?

Самый дешёвый сервер CryptGPU для Qwen3.5 9B — 1× NVIDIA RTX 5080 за 199 $ в месяц, с vLLM или SGLang, FP8. Модель можно предустановить бесплатно при заказе, а оплата — криптовалютой, без KYC.

Работает ли Qwen3.5 9B на AMD MI355X?

Пока не подтверждена работа с vLLM или SGLang на ROCm, поэтому мы предлагаем её на серверах NVIDIA; через Ollama она также работает на MI355X.

Какая лицензия у Qwen3.5 9B?

Apache 2.0. Мы загружаем официальные веса с Hugging Face (Qwen/Qwen3.5-9B); ответственность за соблюдение лицензии лежит на вас.

Свой Qwen3.5 9B, готовый за минуты.

Выделенные GPU, единая цена в месяц, модель предустановлена. Оплата криптовалютой, без KYC.

Личный кабинет

Войти в CryptGPU

Ваши заказы, счета и серверы в одном месте.

Новичок в CryptGPU?

Аккаунты создаются при оформлении заказа: выберите сервер и программное обеспечение, затем создайте аккаунт на шаге Аккаунт первого заказа.

Запустить сервер