Открытая модель · OpenAI · Apache 2.0
Запустите gpt-oss-20b
на собственных GPU.
Модель рассуждений от OpenAI с открытыми весами для сценариев с низкой задержкой. 21B MoE · 3,6B активных параметров, 14 ГБ официальных весов MXFP4.
- 17 ГБВидеопамять, MXFP4
- 21B MoE · 3,6B активныхпараметров
- 1× RTX 4090самый дешёвый сервер, MXFP4
- 269 $в месяц
Сколько видеопамяти требуется для gpt-oss-20b.
Веса × 1,2 для KV-кэша и активаций, с учётом того, что можно использовать 92% видеопамяти — это правило, которое использует страница оформления сервера. Для длинных контекстов и большого числа параллельных запросов нужно больше.
| Вариант развёртывания | Память GPU | Самый дешёвый сервер | В месяц | Действие |
|---|---|---|---|---|
| vLLM или SGLang, официальные веса MXFP4 | 17 ГБ | 1× NVIDIA RTX 4090 | 269 $/мес. | Запустить |
| Ollama + Open WebUI, gpt-oss:20b (квантованная сборка) | 17 ГБ | 1× NVIDIA RTX 4090 | 269 $/мес. | Запустить |
Веса: openai/gpt-oss-20b · 14 ГБ, MXFP4 · Ollama: gpt-oss:20b, 14 ГБ. Как мы оцениваем объём видеопамяти
На каких GPU можно запустить gpt-oss-20b.
Самый маленький сервер каждого типа GPU, на котором помещается модель, и его цена в месяц.
| GPU | MXFP4 | Ollama | Цена, MXFP4 |
|---|---|---|---|
| NVIDIA B300288 ГБ HBM3e | 1× | 1× | 4 019 $/мес. |
| NVIDIA B200180 ГБ HBM3e | 1× | 1× | 3 439 $/мес. |
| AMD MI355X288 ГБ HBM3E | 1× | 1× | 1 409 $/мес. |
| NVIDIA H200141 ГБ HBM3e | 1× | 1× | 2 279 $/мес. |
| NVIDIA H10080 ГБ HBM3 | 1× | 1× | 1 779 $/мес. |
| NVIDIA RTX PRO 600096 ГБ GDDR7 ECC | 1× | 1× | 959 $/мес. |
| NVIDIA L40S48 ГБ GDDR6 ECC | 1× | 1× | 789 $/мес. |
| NVIDIA RTX 509032 ГБ GDDR7 | 1× | 1× | 329 $/мес. |
| NVIDIA RTX 409024 ГБ GDDR6X | 1× | 1× | 269 $/мес. |
| NVIDIA RTX 508016 ГБ GDDR7 | 2× | 2× | 398 $/мес. |
н/д = поддержка ROCm для этой модели не подтверждена в vLLM или SGLang. — = больше самого большого сервера этого GPU. Подобрать другую модель
gpt-oss-20b можно запустить с предустановкой.
Выберите модель на шаге «ПО» страницы оформления сервера: мы установим её с выбранным вами движком без дополнительной платы.
- 1
Выберите сервер
Страница оформления сервера предлагает самый дешёвый сервер, на котором помещается модель, и меняет вариант при изменении точности или движка.
- 2
Выберите движок
vLLM или SGLang предоставляют API, совместимый с OpenAI; Ollama с Open WebUI даёт приватный чат в браузере.
- 3
Оплатите и войдите
Оплатите месяц в BTC, ETH, USDT, XMR или LTC — без KYC. Ваш сервер будет онлайн менее чем через 10 минут после подтверждения платежа, с root-доступом по SSH.
Руководства: инференс LLM с vLLM · инференс LLM с SGLang · Ollama с Open WebUI · LLM на своём сервере · GPU-серверы для инференса LLM · первые шаги на сервере
Вопросы и ответы: gpt-oss-20b.
Все модели: открытые модели и их видеопамять.
Сколько видеопамяти нужно для gpt-oss-20b?
Около 17 ГБ видеопамяти, чтобы запускать официальные веса MXFP4 (14 ГБ) через vLLM или SGLang, по нашему правилу «веса × 1,2» для KV-кэша и активаций; около 17 ГБ со сборкой gpt-oss:20b от Ollama. Для длинных контекстов и большого числа параллельных запросов нужно больше.
Может ли gpt-oss-20b работать на одном GPU?
Да, на одном B300, B200, MI355X, H200, H100, RTX PRO 6000, L40S, RTX 5090 или RTX 4090 с vLLM или SGLang, официальные веса MXFP4, по нашему правилу подбора.
Какой самый дешёвый сервер для gpt-oss-20b?
Самый дешёвый сервер CryptGPU для gpt-oss-20b — 1× NVIDIA RTX 4090 за 269 $ в месяц, с vLLM или SGLang, официальные веса MXFP4. Модель можно предустановить бесплатно при заказе, а оплата — криптовалютой, без KYC.
Работает ли gpt-oss-20b на AMD MI355X?
Да: поддержка на GPU AMD Instinct с ROCm подтверждена для vLLM и SGLang, а у MI355X — 288 ГБ видеопамяти на каждый GPU.
Какая лицензия у gpt-oss-20b?
Apache 2.0. Мы загружаем официальные веса с Hugging Face (openai/gpt-oss-20b); ответственность за соблюдение лицензии лежит на вас.
Свой gpt-oss-20b, готовый за минуты.
Выделенные GPU, единая цена в месяц, модель предустановлена. Оплата криптовалютой, без KYC.
