MangoBoost、AI推論基盤「Mango Inference」の有償提供を開始
MangoBoostがAI推論プラットフォームMango Inferenceの有償サービスを始め、ソウル・江南に1MWのAIファクトリーを来年第1四半期に完成させる計画を明らかにした。
MangoBoostはAI推論プラットフォーム「Mango Inference」を立ち上げ、有償サービスを開始した。顧客は自前のインフラを構築することなく、APIを通じてMangoBoostのインフラ上でオープンウェイトモデルを実行できる。韓国のtechm.krが伝えた。
Mango Inferenceで現在サポートするモデルは5つで、MangoBoostは新モデルが公開されてから1カ月以内に追加していく方針を示している。
MangoBoostはソウル・江南に出力1MWのAIファクトリーを建設し、来年第1四半期の完成を目指す。アドバンスト・マイクロ・デバイセズのGPUを数百基導入する計画で、すでに数十基を確保した。
同社によると、アドバンスト・マイクロ・デバイセズのMI355X GPU上で同社ソフトウェアを動かした場合、NVIDIA B300ベースのシステムと同等以上の推論性能が得られたという。
MangoBoostは今年中にシリーズBの資金調達を完了させることを目指しており、調達資金は江南の1MW AIファクトリーに充てる。来年には1〜5MWのAIファクトリーへ拡大し、長期では海外インフラを含めて最大500MWまで広げる計画だ。
アドバンスト・マイクロ・デバイセズとの協業
MangoBoostは約3年間、GPUの推論性能を高めるためにアドバンスト・マイクロ・デバイセズと協業してきた。これまでは推論サービスを直接販売するのではなく、サーバーやネットワークなどのコンポーネント技術を供給する形で事業を展開していた。
よくある質問
Mango Inferenceではどんなモデルが使えますか？
現在は5つのモデルをサポートしており、新モデルは公開から1カ月以内に追加する方針だ。
MangoBoostのAIファクトリーはどこに建設されますか？
ソウル・江南に出力1MWのAIファクトリーを建設し、来年第1四半期の完成を目指している。