BTC
ETH
USDT
XMR
LTC
Открытая модель · Moonshot AI · Лицензия Kimi K3
Запустите Kimi K3
на собственных GPU.
Крупнейшая модель с открытыми весами в нашем каталоге: мультимодальная, контекст 1M. 2,8T MoE · 104B активных параметров, 1561 ГБ официальных весов MXFP4.
- 1 873 ГБВидеопамять, MXFP4
- 2,8T MoE · 104B активныхпараметров
- 8× B300самый дешёвый сервер, MXFP4
- 32 152 $в месяц
Сколько видеопамяти требуется для Kimi K3.
Веса × 1,2 для KV-кэша и активаций, с учётом того, что можно использовать 92% видеопамяти — это правило, которое использует страница оформления сервера. Для длинных контекстов и большого числа параллельных запросов нужно больше.
| Вариант развёртывания | Память GPU | Самый дешёвый сервер | В месяц | Действие |
|---|---|---|---|---|
| vLLM или SGLang, официальные веса MXFP4 | 1 873 ГБ | 8× NVIDIA B300 | 32 152 $/мес. | Запустить |
Веса: moonshotai/Kimi-K3 · 1561 ГБ, MXFP4. Как мы оцениваем объём видеопамяти
На каких GPU можно запустить Kimi K3.
Самый маленький сервер каждого типа GPU, на котором помещается модель, и его цена в месяц.
| GPU | MXFP4 | Цена, MXFP4 |
|---|---|---|
| NVIDIA B300288 ГБ HBM3e | 8× | 32 152 $/мес. |
| NVIDIA B200180 ГБ HBM3e | — | — |
| AMD MI355X288 ГБ HBM3E | н/д | — |
| NVIDIA H200141 ГБ HBM3e | — | — |
| NVIDIA H10080 ГБ HBM3 | — | — |
| NVIDIA RTX PRO 600096 ГБ GDDR7 ECC | — | — |
| NVIDIA L40S48 ГБ GDDR6 ECC | — | — |
| NVIDIA RTX 509032 ГБ GDDR7 | — | — |
| NVIDIA RTX 409024 ГБ GDDR6X | — | — |
| NVIDIA RTX 508016 ГБ GDDR7 | — | — |
н/д = поддержка ROCm для этой модели не подтверждена в vLLM или SGLang. — = больше самого большого сервера этого GPU. Подобрать другую модель
Kimi K3 можно запустить с предустановкой.
Выберите модель на шаге «ПО» страницы оформления сервера: мы установим её с выбранным вами движком без дополнительной платы.
- 1
Выберите сервер
Страница оформления сервера предлагает самый дешёвый сервер, на котором помещается модель, и меняет вариант при изменении точности или движка.
- 2
Выберите движок
vLLM или SGLang предоставляют API, совместимый с OpenAI.
- 3
Оплатите и войдите
Оплатите месяц в BTC, ETH, USDT, XMR или LTC — без KYC. Ваш сервер будет онлайн менее чем через 10 минут после подтверждения платежа, с root-доступом по SSH.
Руководства: инференс LLM с vLLM · инференс LLM с SGLang · Ollama с Open WebUI · LLM на своём сервере · GPU-серверы для инференса LLM · первые шаги на сервере
Вопросы и ответы: Kimi K3.
Все модели: открытые модели и их видеопамять.
Сколько видеопамяти нужно для Kimi K3?
Около 1 873 ГБ видеопамяти, чтобы запускать официальные веса MXFP4 (1561 ГБ) через vLLM или SGLang, по нашему правилу «веса × 1,2» для KV-кэша и активаций. Для длинных контекстов и большого числа параллельных запросов нужно больше.
Может ли Kimi K3 работать на одном GPU?
Нет. Самый маленький сервер, на котором она помещается — 8× B300, с vLLM или SGLang, официальные веса MXFP4, по нашему правилу подбора.
Какой самый дешёвый сервер для Kimi K3?
Самый дешёвый сервер CryptGPU для Kimi K3 — 8× NVIDIA B300 за 32 152 $ в месяц, с vLLM или SGLang, официальные веса MXFP4. Модель можно предустановить бесплатно при заказе, а оплата — криптовалютой, без KYC.
Работает ли Kimi K3 на AMD MI355X?
Поддержка на ROCm пока не подтверждена, поэтому мы предлагаем её на серверах NVIDIA.
Какая лицензия у Kimi K3?
Лицензия Kimi K3 — с условиями или коммерческими ограничениями: перед использованием изучите карточку модели. Мы загружаем официальные веса с Hugging Face (moonshotai/Kimi-K3); ответственность за соблюдение лицензии лежит на вас.
Свой Kimi K3, готовый за минуты.
Выделенные GPU, единая цена в месяц, модель предустановлена. Оплата криптовалютой, без KYC.