Nota 优化 Kimi K3.1 Pro,B200 替代 B300 降本约 20%
Nota 通过剪枝移除最多 37% 的专家模块,使 Kimi K3.1 Pro 可在 8 块 B200 GPU 上运行,购买成本最多降低约 20%。
Nota 于 2026 年 11 月 10 日宣布,已对月之暗面(Moonshot AI)的 Kimi K3.1 Pro 模型完成优化,使其能够在 8 块英伟达 B200 GPU 上运行,而不再需要 8 块 B300 GPU。据 datanet.co.kr 报道,Nota 表示根据其自身报价,这一优化可将初始 GPU 采购成本降低最多约 20%。
Nota 采用了剪枝技术,移除了模型最多 37% 的专家模块,以降低内存需求。优化后的模型在 GPQA Diamond 基准测试中保留了原模型 99% 以上的得分。Kimi K3.1 Pro 拥有 2.8 万亿参数,被称为目前按总参数量计算已发布的最大开放权重 AI 模型。
在 8 块 B200 GPU 上,剪枝 30% 专家模块的版本支持最高 512,000 个 token 的上下文,而剪枝 37% 的版本支持最高 100 万个 token。Nota 还表示,在 8 块 B200 GPU 上支持使用草稿模型的推测解码,以加快答案生成速度。
Nota 称,在相同模型条件下,B200 GPU 的云租赁报价比 B300 GPU 低最多约 22%。
快速问答
Nota 的优化如何降低 Kimi K3.1 Pro 的运行成本?
通过剪枝移除最多 37% 的专家模块,使模型可在 8 块 B200 GPU 上运行,而非 8 块 B300 GPU,从而降低 GPU 采购成本最多约 20%。
优化后的 Kimi K3.1 Pro 支持多长的上下文?
在 8 块 B200 GPU 上,剪枝 30% 的版本支持最高 512,000 个 token,剪枝 37% 的版本支持最高 100 万个 token。