モレ、AMD GPU向け推論基盤を発表
モレはAMD主催イベントでToken Factory戦略を公開し、MI355XでのスループットがNVIDIA B200の2倍超だと主張した。
韓国のAIインフラ企業モレは、AMDが主催したAMD Advancing AI World Tour Seoul 2026で、AMD GPU上のAI推論コストを最適化するソフトウェア「Token Factory」戦略を公開した。datanet.co.krが報じた。
モレのCEOはAMDのAIプロダクトマネジメント担当副社長ラミン・ロアン氏との基調講演セッションに登壇した。
モレのMoAI Inference Frameworkは、新モデルへの最適化、世代別のAMD GPU最適化、データセンター規模の異種分散推論を1つのソフトウェアスタックで担う。
性能面の主張
モレによると、AMD Instinct MI355Xで最新のオープンソースモデルを推論した場合、一般的なサービス条件下でNVIDIA B200の2倍以上のスループットを達成した。また、プロンプト処理をNVIDIA GPU、応答生成をAMD GPUが担う構成では、同種GPUクラスタの約1.7倍のスループットだったとしている。
モレは2021年、KTとAMD GPUベースのAIクラウドサービスを商用化し、2,000台以上のAMD GPUを運用した。今年は国内外のトークンファクトリーで複数の顧客に異種構成向けToken Factory運用ソフトウェアを提供したとしている。
よくある質問
モレのMoAI Inference Frameworkは何に対応していますか？
新モデルへの最適化、世代別のAMD GPU最適化、データセンター規模の異種分散推論を1つのソフトウェアスタックでカバーするとしています。
MI355Xでの性能はどの程度ですか？
モレの主張では、一般的なサービス条件下でNVIDIA B200の2倍以上のスループットです。