
AI 模型与选型10 分钟阅读
私有化部署大模型:在自己的 GPU 服务器上自建私有 ChatGPT
如何私有化部署大模型、自建私有 ChatGPT:挑选开放模型、估算 GPU 显存、运行 Ollama + Open WebUI 或 vLLM、限制访问,以及私有 LLM 服务器的费用。
新品 NVIDIA B300 — 起价 $4,019/月
查看 B300菜单
博客 · GPU
5 篇文章介绍 AMD MI355X。 租金起价 $1,409/GPU/月,支持加密货币支付:AMD MI355X 服务器。
14 篇文章5 个主题更新于 RSS 订阅
5 篇文章 · 最新优先

AI 模型与选型10 分钟阅读
如何私有化部署大模型、自建私有 ChatGPT:挑选开放模型、估算 GPU 显存、运行 Ollama + Open WebUI 或 vLLM、限制访问,以及私有 LLM 服务器的费用。

AI 模型与选型10 分钟阅读
2026年最适合 LLM 推理的 GPU:10 款 GPU 的显存、带宽与价格对比,以及从 8B 到 1T 各种规模模型对应的最便宜服务器。

AI 模型与选型5 分钟阅读
权重、KV 缓存和训练显存的计算公式,Llama 3.1、Qwen3、gpt-oss 和 DeepSeek 等模型的实例,以及各模型适用的 GPU 服务器。

GPU 硬件4 分钟阅读
B300、B200、H200 与 MI355X 经核实的规格参数:显存、带宽、互联、FP8、FP4 与 FP64,附每 GB 显存的价格,以及各自适合的工作负载。

GPU 硬件4 分钟阅读
AMD MI355X 拥有 288 GB HBM3E 显存和 8 TB/s 带宽,价格却低于 H100:规格参数、ROCm 支持情况、注意事项,以及与 H100、H200 相比的每美元显存量。