Открытая модель · Qwen · Apache 2.0
Запустите Qwen3.5 9B
на собственных GPU.
Плотная vision-language-модель с контекстом 262K токенов. 9B параметров, 19 ГБ официальных весов BF16.
- 23 ГБВидеопамять, BF16
- 11 ГБВидеопамять, FP8
- 1× RTX 5080самый дешёвый сервер, FP8
- 199 $в месяц
Сколько видеопамяти требуется для Qwen3.5 9B.
Веса × 1,2 для KV-кэша и активаций, с учётом того, что можно использовать 92% видеопамяти — это правило, которое использует страница оформления сервера. Для длинных контекстов и большого числа параллельных запросов нужно больше.
| Вариант развёртывания | Память GPU | Самый дешёвый сервер | В месяц | Действие |
|---|---|---|---|---|
| vLLM или SGLang, официальные веса BF16 | 23 ГБ | 1× NVIDIA RTX 5090 | 329 $/мес. | Запустить |
| vLLM или SGLang, FP8 | 11 ГБ | 1× NVIDIA RTX 5080 | 199 $/мес. | Запустить |
| Ollama + Open WebUI, qwen3.5:9b (квантованная сборка) | 7,9 ГБ | 1× NVIDIA RTX 5080 | 199 $/мес. | Запустить |
Веса: Qwen/Qwen3.5-9B · 19 ГБ, BF16 · Ollama: qwen3.5:9b, 6,6 ГБ. Как мы оцениваем объём видеопамяти
На каких GPU можно запустить Qwen3.5 9B.
Самый маленький сервер каждого типа GPU, на котором помещается модель, и его цена в месяц.
| GPU | BF16 | FP8 | Ollama | Цена, BF16 |
|---|---|---|---|---|
| NVIDIA B300288 ГБ HBM3e | 1× | 1× | 1× | 4 019 $/мес. |
| NVIDIA B200180 ГБ HBM3e | 1× | 1× | 1× | 3 439 $/мес. |
| AMD MI355X288 ГБ HBM3E | н/д | н/д | 1× | — |
| NVIDIA H200141 ГБ HBM3e | 1× | 1× | 1× | 2 279 $/мес. |
| NVIDIA H10080 ГБ HBM3 | 1× | 1× | 1× | 1 779 $/мес. |
| NVIDIA RTX PRO 600096 ГБ GDDR7 ECC | 1× | 1× | 1× | 959 $/мес. |
| NVIDIA L40S48 ГБ GDDR6 ECC | 1× | 1× | 1× | 789 $/мес. |
| NVIDIA RTX 509032 ГБ GDDR7 | 1× | 1× | 1× | 329 $/мес. |
| NVIDIA RTX 409024 ГБ GDDR6X | 2× | 1× | 1× | 538 $/мес. |
| NVIDIA RTX 508016 ГБ GDDR7 | 2× | 1× | 1× | 398 $/мес. |
н/д = поддержка ROCm для этой модели не подтверждена в vLLM или SGLang. — = больше самого большого сервера этого GPU. Подобрать другую модель
Qwen3.5 9B можно запустить с предустановкой.
Выберите модель на шаге «ПО» страницы оформления сервера: мы установим её с выбранным вами движком без дополнительной платы.
- 1
Выберите сервер
Страница оформления сервера предлагает самый дешёвый сервер, на котором помещается модель, и меняет вариант при изменении точности или движка.
- 2
Выберите движок
vLLM или SGLang предоставляют API, совместимый с OpenAI; Ollama с Open WebUI даёт приватный чат в браузере.
- 3
Оплатите и войдите
Оплатите месяц в BTC, ETH, USDT, XMR или LTC — без KYC. Ваш сервер будет онлайн менее чем через 10 минут после подтверждения платежа, с root-доступом по SSH.
Руководства: инференс LLM с vLLM · инференс LLM с SGLang · Ollama с Open WebUI · LLM на своём сервере · GPU-серверы для инференса LLM · первые шаги на сервере
Вопросы и ответы: Qwen3.5 9B.
Все модели: открытые модели и их видеопамять.
Сколько видеопамяти нужно для Qwen3.5 9B?
Около 23 ГБ видеопамяти, чтобы запускать официальные веса BF16 (19 ГБ) через vLLM или SGLang, по нашему правилу «веса × 1,2» для KV-кэша и активаций; около 11 ГБ в FP8; около 7,9 ГБ со сборкой qwen3.5:9b от Ollama. Для длинных контекстов и большого числа параллельных запросов нужно больше.
Может ли Qwen3.5 9B работать на одном GPU?
Да, на одном B300, B200, H200, H100, RTX PRO 6000, L40S, RTX 5090, RTX 4090 или RTX 5080 с vLLM или SGLang, FP8, по нашему правилу подбора.
Какой самый дешёвый сервер для Qwen3.5 9B?
Самый дешёвый сервер CryptGPU для Qwen3.5 9B — 1× NVIDIA RTX 5080 за 199 $ в месяц, с vLLM или SGLang, FP8. Модель можно предустановить бесплатно при заказе, а оплата — криптовалютой, без KYC.
Работает ли Qwen3.5 9B на AMD MI355X?
Пока не подтверждена работа с vLLM или SGLang на ROCm, поэтому мы предлагаем её на серверах NVIDIA; через Ollama она также работает на MI355X.
Какая лицензия у Qwen3.5 9B?
Apache 2.0. Мы загружаем официальные веса с Hugging Face (Qwen/Qwen3.5-9B); ответственность за соблюдение лицензии лежит на вас.
Свой Qwen3.5 9B, готовый за минуты.
Выделенные GPU, единая цена в месяц, модель предустановлена. Оплата криптовалютой, без KYC.
