微软完成2.8万亿参数MAI-Base-2预训练

微软于2026年10月15日宣布，已完成自研大模型MAI-Base-2的预训练。该模型拥有2.8万亿参数，每个token激活800亿参数，采用混合专家（MoE）架构。微软表示，在内部评估中，MAI-Base-2的表现优于所有作为对比目标的开源权重模型。相关消息由aitimes.com报道。

微软称，与深度求索的DeepSeek-V4-Pro-Base相比，MAI-Base-2预训练所需的浮点运算（FLOPs）效率高出4.2至12.3倍；与2026年6月发布的MAI-Base-1相比，计算效率提升6.3至12.7倍。MAI-Base-2于2026年8月至9月使用1.6万块英伟达GB200 GPU训练38天，训练数据去重后的唯一token数量较MAI-Base-1增加约36%。

在技术层面，微软将MoE应用于MAI-Base-2的所有层，并将MoE层的模型计算利用率从24%提升至35%，同时采用Muon优化器和梯度裁剪技术提升训练稳定性。微软表示，训练数据全部由内部收集和处理，未使用其他AI模型的蒸馏，且模型从一开始就设计为同时训练图像和文本，视觉语言模型（VLM）数据占50万亿token训练总量的18%。

微软计划将MAI-Base-2作为下一代自研模型的基础，先应用于自家产品，之后通过其AI平台Foundry向企业客户扩大供应。该模型目前处于后训练阶段，微软表示后续模型MAI-Base-3的准备工作已经开始。

与开放人工智能的比较引发关注

据Business Insider报道，微软AI首席执行官Mustafa Suleyman在员工大会上称，微软用约开放人工智能四分之一的算力，构建了比GPT-5.6 Sol基础模型更强的预训练模型。该比较基于非公开评估，公开技术报告未提供可供核实的详细结果。