Moonshot AI تنشر أوزان Kimi K3.1 Pro على Hugging Face

نشرت شركة Moonshot AI أوزان نموذجها Kimi K3.1 Pro على منصة Hugging Face في 4 نوفمبر، ما يتيح للمطورين تشغيل النموذج وتعديله على بنيتهم التحتية الخاصة. وكانت الشركة قد أعلنت عند إطلاق النموذج الشهر الماضي اعتزامها نشر الأوزان.

يبلغ حجم مستودع التوزيع نحو 1.56 تيرابايت، وتُقسَّم الأوزان فيه على 96 ملفاً، بحسب aitimes.com. وتُوزَّع إعدادات النموذج وشيفرة معالجة المدخلات إلى جانب الأوزان.

Kimi K3.1 Pro نموذج قائم على بنية mixture-of-experts، ويضم 2.8 تريليون معامل إجمالي مع تفعيل 104 مليارات معامل عند الاستدلال. ويتعامل النموذج مع النصوص والصور ويستقبل سياقاً يصل إلى نحو مليون token.

من أصل 93 طبقة في النموذج، تستخدم 69 طبقة KDA وتستخدم 24 طبقة gated DeepSeek Sparse Attention (DSA). وقد استُبدلت طبقات gated MLA التي كانت تنفّذ الانتباه الكامل في Kimi K3 بطبقة DSA. وتُوزَّع الأوزان بصيغة MXFP4 مع تفعيلات بصيغة MXFP8، وطُبِّق التدريب المدرك للتكميم من مرحلة التدريب.

تشمل محركات الاستدلال الموصى بها vLLM وSGLang وTokenSpeed. ويسمح ترخيص Moonshot AI الخاص بالاستخدام والتعديل والضبط الدقيق وإعادة التوزيع والاستخدام التجاري، على أن يوقّع مقدّمو خدمات النماذج والشركات التابعة لهم التي تتجاوز إيراداتها 20 مليون دولار على مدى 12 شهراً متتالياً عقداً منفصلاً قبل الاستخدام التجاري. وعلى المنتجات أو الخدمات التجارية التي يتجاوز عدد مستخدميها النشطين شهرياً 100 مليون أو إيراداتها الشهرية 20 مليون دولار أن تعرض اسم النموذج على واجهة المستخدم. ويُستثنى الاستخدام الداخلي والاستخدام عبر منتجات Moonshot AI الرسمية أو شركاء الاستدلال المعتمدين من شرط العقد المنفصل وعرض اسم النموذج.