マイクロソフト、AIデータセンター向けコンポーザブルメモリを検討

マイクロソフトは、AIデータセンターにおけるメモリ不足に対応するため、コンポーザブルメモリ技術の活用を検討している。同社の主席アーキテクト、サミル・ラザドニャ氏がAI Data Pipeline Forumで明らかにした。実現すれば、複数のサーバーにまたがるメモリをプールし、必要に応じて割り当てる仕組みをAzure全体で利用できるようになる。

ラザドニャ氏はAI推論が電力とメモリという2つの制約に同時に直面していると指摘した。メモリは現在不足しており、使われていないタスクにメモリを結びつけておくことは貴重な資源の浪費になると述べた。

同氏は、メモリはかつてCPUやGPUの付属物だったが、今やそれ自体が重要な資源になっていると語った。また、コンポーザブルメモリの実現には光インターコネクト技術が役立つとの見方を示した。

ラザドニャ氏の技術探索チームは、サーバーをまたいでメモリをプールし、オンデマンドで割り当てる技術を探しているという。この取り組みはSiliconANGLEが報じた。