Moonshot AI publie les poids de Kimi K3.1 Pro sur Hugging Face
Le modèle à mélange d'experts de 2,8 billions de paramètres est distribué en MXFP4 dans un dépôt d'environ 1,56 To, sous la licence propre de Moonshot AI.
Moonshot AI a publié le 4 novembre les poids de Kimi K3.1 Pro sur Hugging Face, selon aitimes.com. Les développeurs peuvent désormais exécuter et modifier le modèle sur leur propre infrastructure.
Le dépôt de distribution pèse environ 1,56 To et répartit les poids sur 96 fichiers. La configuration du modèle et le code de traitement des entrées sont fournis avec les poids.
Kimi K3.1 Pro est un modèle à mélange d'experts de 2,8 billions de paramètres au total, dont 104 milliards activés à l'inférence. Il traite texte et images et accepte un contexte allant jusqu'à environ 1 million de tokens. Sur ses 93 couches, 69 utilisent KDA et 24 une attention parcellaire DeepSeek à portes (DSA) ; les couches MLA à portes qui effectuaient une attention complète dans Kimi K3 ont été remplacées par DSA.
Les poids sont distribués au format MXFP4, avec des activations en MXFP8. Un entraînement conscient de la quantification a été appliqué dès la phase d'entraînement. vLLM, SGLang et TokenSpeed figurent parmi les moteurs d'inférence recommandés.
Licence et conditions commerciales
L'usage, la modification, le fine-tuning, la redistribution et l'usage commercial sont autorisés sous la licence propre de Moonshot AI. Les fournisseurs de services de modèles et leurs affiliés dont le chiffre d'affaires cumulé dépasse 20 millions USD sur 12 mois consécutifs doivent toutefois signer un contrat distinct avant tout usage commercial. Les produits ou services commerciaux dépassant 100 millions d'utilisateurs actifs mensuels ou 20 millions USD de revenus mensuels doivent afficher le nom du modèle sur l'interface utilisateur.
L'usage interne ainsi que l'usage via les produits officiels de Moonshot AI ou des partenaires d'inférence certifiés sont exemptés du contrat distinct et de l'affichage du nom du modèle. Kimi K3.1 Pro avait été lancé le mois précédent, et la publication des poids avait été annoncée à cette occasion.
En bref
Où sont publiés les poids de Kimi K3.1 Pro ?
Sur Hugging Face, dans un dépôt d'environ 1,56 To réparti sur 96 fichiers, publié le 4 novembre.
Quelle est la taille de Kimi K3.1 Pro ?
C'est un modèle à mélange d'experts de 2,8 billions de paramètres au total, dont 104 milliards activés à l'inférence.
L'usage commercial est-il autorisé ?
Oui, sous la licence propre de Moonshot AI, mais certains fournisseurs de services et produits à forte audience doivent signer un contrat distinct ou afficher le nom du modèle.