Moonshot AI、Kimi K3.1 Proの重みをHugging Faceで公開
総パラメータ2.8兆のMoEモデルで、1.56TBの重みを96ファイルに分割して配布。商用利用も独自ライセンスの条件付きで可能。
Moonshot AIは現地時間11月4日、AIモデル「Kimi K3.1 Pro」の重みをHugging Faceで公開した。開発者が自社のインフラ上でモデルを実行・改変できるようになる。aitimes.comが報じた。
配布リポジトリは約1.56TBで、重みは96ファイルに分割されている。重みに加えてモデルの設定ファイルと入力処理用のコードも同梱される。
Kimi K3.1 Proは総パラメータ2.8兆の混合エキスパート（MoE）モデルで、推論時に活性化するのは1040億パラメータ。テキストと画像を扱い、最大約100万トークンのコンテキストを受け付ける。93層のうち69層がKDA、24層がゲート付きのDeepSeek Sparse Attention（DSA）を採用する。前世代のKimi K3で全注意力を担っていたゲート付きMLA層は、DSAに置き換えられた。
重みはMXFP4形式、活性値はMXFP8形式で配布され、学習段階から量子化を意識した訓練が行われている。推奨推論エンジンにはvLLM、SGLang、TokenSpeedが挙げられている。
独自ライセンスと商用利用の条件
利用・改変・ファインチューニング・再配布・商用利用はMoonshot AIの独自ライセンスの下で認められる。ただし、12か月連続で合計収益が2000万ドルを超えるモデルサービス提供者とその関連会社は、商用利用の前に別途契約を結ぶ必要がある。月間アクティブユーザー数が1億人、または月間収益が2000万ドルを超える商用製品・サービスは、ユーザーインターフェースにモデル名を表示しなければならない。内部利用と、Moonshot AIの公式製品または認定推論パートナー経由の利用は、別途契約とモデル名表示の条件から除外される。
Kimi K3.1 Proは先月に発表され、その時点で重みの公開が予告されていた。発表時には、悪用リスクを下げるため、中間学習データと強化学習タスクからサイバーセキュリティ関連の内容を選別して除去したとMoonshot AIは説明している。
よくある質問
Kimi K3.1 Proの重みはどこで公開されていますか？
Hugging Faceで公開されています。リポジトリは約1.56TBで、重みは96ファイルに分割されています。
商用利用に条件はありますか？
利用や商用利用は独自ライセンスで認められていますが、12か月連続で合計収益が2000万ドルを超えるモデルサービス提供者らは別途契約が必要です。大規模な商用製品・サービスではモデル名の表示も求められます。
推奨される推論エンジンは何ですか？
vLLM、SGLang、TokenSpeedが推奨されています。