Nota optimise Kimi K3.1 Pro pour huit GPU B200
L'optimisation permettrait de réduire jusqu'à environ 20 % le coût d'achat des GPU par rapport à une configuration en huit B300, selon Nota.
Nota a annoncé le 10 novembre 2026 avoir optimisé Kimi K3.1 Pro, le modèle de Moonshot AI, pour qu'il fonctionne sur huit GPU NVIDIA B200 au lieu de huit GPU NVIDIA B300. Selon l'entreprise, cette adaptation réduit jusqu'à environ 20 % le coût d'achat initial des GPU, sur la base de son propre devis.
Pour abaisser les besoins en mémoire, Nota a appliqué un élagage retirant jusqu'à 37 % des modules experts du modèle. La version optimisée conserve plus de 99 % du score du modèle original sur le benchmark de raisonnement scientifique GPQA Diamond.
Sur huit GPU B200, la version dont 30 % des experts ont été élagués prend en charge des contextes allant jusqu'à 512 000 tokens, tandis que la version à 37 % d'experts retirés monte jusqu'à 1 million de tokens. Nota indique par ailleurs que le décodage spéculatif avec un modèle draft est pris en charge pour accélérer la génération des réponses sur huit B200.
L'entreprise précise que les devis de location cloud pour les GPU B200 étaient jusqu'à environ 22 % inférieurs à ceux des GPU B300, à conditions de modèle identiques.
Kimi K3.1 Pro compte 2 800 milliards de paramètres, ce qui en fait le plus grand modèle d'IA à poids ouverts publié à ce jour en nombre total de paramètres.
Un précédent sur Kimi K3
Nota avait déjà réduit de huit à quatre le nombre de GPU B300 nécessaires pour faire tourner Kimi K3, le modèle précédent de la famille.
En bref
Quel gain de coût annonce Nota avec l'optimisation de Kimi K3.1 Pro ?
Nota évoque une baisse pouvant atteindre environ 20 % du coût d'achat initial des GPU, selon son propre devis, en passant de huit B300 à huit B200.
Quelle est la taille de Kimi K3.1 Pro ?
Le modèle de Moonshot AI compte 2 800 milliards de paramètres, ce qui en fait le plus grand modèle à poids ouverts publié à ce jour en nombre total de paramètres.
La version élaguée perd-elle en performance ?
Selon Nota, le modèle optimisé conserve plus de 99 % du score du modèle original sur le benchmark GPQA Diamond.