微软发布第三代自研AI加速器Maia 300，2027年起规模部署
Maia 300专为大型AI模型推理设计，微软称配备96颗加速器的机架级词元吞吐量达到上一代Maia 200系统的7倍。
微软发布了其第三代自研AI加速器Maia 300。该芯片为定制设计，专门面向大型AI模型的推理工作负载。
微软表示，Maia 300每兆瓦可处理的词元数量比主流GPU系统高出40%。一个配备96颗Maia 300加速器的服务器机架，其机架级词元吞吐量是上一代Maia 200系统的7倍。
Maia 300采用以推理为核心的架构，针对长上下文处理、内存密集型负载以及解码任务较多的AI工作进行了优化。该芯片与软件、服务器机架、网络及数据中心基础设施进行了协同设计。
2027年起扩大部署
微软计划从2027年开始将Azure Maia系列部署规模扩大至数吉瓦。微软高管Scott Guthrie表示，微软的目标是从2027年起让Azure Maia系列成为微软产品与服务的主要AI推理系统。目前微软使用Maia 200来运行包括Microsoft 365 Copilot和Azure中OpenAI模型在内的AI服务。
快速问答
Maia 300是什么？
微软发布的第三代自研AI加速器，采用面向推理的定制架构，针对长上下文处理、内存密集型负载和解码任务较多的AI工作优化。
Maia 300什么时候规模部署？
微软计划从2027年开始将Azure Maia系列部署规模扩大至数吉瓦。