MangoBoost lance Mango Inference et prévoit une usine d'IA de 1 MW à Gangnam
MangoBoost a lancé sa plateforme d'inférence Mango Inference et débuté son service payant. L'entreprise prévoit une usine d'IA de 1 MW à Gangnam pour le premier trimestre de l'année prochaine.
MangoBoost a lancé Mango Inference, sa plateforme d'inférence pour l'IA, et a commencé à proposer un service payant, selon techm.kr. La plateforme permet aux clients d'exécuter des modèles ouverts sur l'infrastructure de MangoBoost via une API, sans avoir à construire leur propre infrastructure.
MangoBoost indique prendre en charge cinq modèles sur Mango Inference et viser l'ajout de nouveaux modèles dans le mois suivant leur publication. L'entreprise déploie par ailleurs des centaines de GPU AMD, dont plusieurs dizaines sont déjà sécurisés. Selon MangoBoost, son logiciel exécuté sur le GPU MI355X d'AMD atteint des performances d'inférence similaires ou supérieures à celles de systèmes équipés du B300 de NVIDIA.
MangoBoost prévoit de construire une usine d'IA de 1 MW à Gangnam, à Séoul, avec un objectif d'achèvement au premier trimestre de l'année prochaine. L'entreprise prévoit également de boucler son tour de financement de série B d'ici la fin de l'année, les fonds devant être affectés à cette usine d'IA de Gangnam.
MangoBoost a collaboré avec AMD pendant environ trois ans pour améliorer les performances d'inférence des GPU. Jusqu'ici, l'entreprise opérait en fournissant des technologies de composants telles que des serveurs et des réseaux, plutôt qu'en vendant directement des services d'inférence.
Objectifs d'expansion
MangoBoost prévoit d'étendre ses usines d'IA à une capacité de 1 à 5 MW d'ici l'année prochaine, et jusqu'à 500 MW à long terme, y compris des infrastructures à l'étranger.
En bref
Qu'est-ce que Mango Inference ?
C'est une plateforme d'inférence pour l'IA lancée par MangoBoost, avec un service payant qui permet d'exécuter des modèles ouverts sur son infrastructure via une API.
Quand l'usine d'IA de Gangnam sera-t-elle achevée ?
MangoBoost vise une completion au premier trimestre de l'année prochaine pour son usine d'IA de 1 MW à Gangnam, à Séoul.
Quels GPU MangoBoost utilise-t-il ?
MangoBoost déploie des centaines de GPU AMD, avec plusieurs dizaines déjà sécurisés, et affirme que son logiciel sur le MI355X atteint des performances proches ou supérieures à celles de systèmes B300 de NVIDIA.