Nota、Kimi K3.1 ProをB200 8基で稼働可能に
NotaはMoonshot AIのKimi K3.1 ProをB200 8基向けに最適化し、専門家モジュールを最大37%削減したと発表した。
韓国のAI推論最適化企業Notaは2026年11月10日、Moonshot AIの大規模AIモデル「Kimi K3.1 Pro」を最適化し、NVIDIA B300 GPU 8基の代わりにNVIDIA B200 GPU 8基で稼働できるようにしたと発表した。同社の試算では、GPUの初期購入費用を最大約20%削減できるという。
Notaはモデルの専門家モジュールを最大37%削除するプルーニングを適用し、メモリ要件を引き下げた。最適化後のモデルは、科学的推論ベンチマーク「GPQA Diamond」で元モデルのスコアの99%超を維持したとしている。
B200 GPU 8基での動作条件は、専門家の30%を削除した版が最大51万2000トークン、37%を削除した版が最大100万トークンのコンテキストに対応する。また、ドラフトモデルを使った投機的デコーディングにも対応し、回答生成の高速化が可能だとしている。
Notaによると、同一のモデル条件ではB200 GPUのクラウドレンタル料金はB300 GPUより最大約22%安い。Kimi K3.1 Proは2兆8000億パラメータを持ち、現在公開されているオープンウェイトAIモデルの中で総パラメータ数が最大とされる。
過去の最適化実績
Notaは以前、Kimi K3を稼働させるのに必要なB300 GPUを8基から最小4基に減らしたとしている。
よくある質問
Kimi K3.1 Proは何基のGPUで動きますか？
Notaの最適化により、NVIDIA B300 GPU 8基の代わりにNVIDIA B200 GPU 8基で稼働できます。
GPU購入費用はどれくらい削減できますか？
Notaの試算では、初期購入費用を最大約20%削減できます。
精度は落ちますか？
専門家モジュールを最大37%削除しても、GPQA Diamondで元モデルのスコアの99%超を維持したとされています。