マイクロソフト、第3世代AI推論チップ「Maia 300」を発表

マイクロソフトは、第3世代の自社開発AIアクセラレータ「Maia 300」を発表した。大規模AIモデルの推論処理に特化したカスタム設計チップで、同社は2027年からデータセンターでの本格展開を計画している。ZDNet Koreaが報じた。

マイクロソフトによると、Maia 300は、主要なGPUベースシステムと比べて1メガワット当たりのトークン処理量が40%多い。前世代のMaia 200を搭載したシステムと比べ、Maia 300を96基搭載したサーバーラックはラック単位のトークンスループットが7倍になるという。

Maia 300は、長文脈処理、メモリ集約型ワークロード、デコード中心のAIタスクに最適化した推論向けアーキテクチャとして設計された。ソフトウェアやサーバーラック、ネットワーク、データセンターインフラと共同設計されている。

同社のスコット・ガスリー氏は、2027年からAzure Maiaファミリーをギガワット規模に拡大し、マイクロソフトの製品とサービスの主要なAI推論システムにすることを目指すと述べた。現在、マイクロソフトはMaia 200を使い、Microsoft 365 CopilotやAzureでOpenAIのモデルを含むAIサービスを運用している。