Moreh présente sa stratégie Token Factory sur GPU AMD à Séoul

Moreh a présenté sa stratégie logicielle Token Factory, destinée à optimiser les coûts d'inférence d'IA sur les GPU AMD, lors de l'étape de Séoul de l'AMD Advancing AI World Tour 2026, selon datanet.co.kr. Le PDG de Moreh, Jo Gang-won, est intervenu dans une session plénière aux côtés de Ramine Roane, vice-président de la gestion des produits d'IA chez AMD.

Le framework d'inférence MoAI de Moreh regroupe dans une seule pile logicielle l'optimisation des nouveaux modèles, l'optimisation des GPU AMD selon les générations et l'inférence distribuée hétérogène à l'échelle du centre de données.

Moreh indique que son framework a atteint plus du double du débit du NVIDIA B200 dans des conditions de service typiques, lors de l'inférence des derniers modèles à source ouverte sur les AMD Instinct MI355X. Dans une configuration où les GPU NVIDIA traitent le traitement des invites et où les GPU AMD génèrent les réponses, la société rapporte environ 1,7 fois le débit d'une grappe de GPU homogène.

Un historique de collaboration avec AMD

En 2021, Moreh avait commercialisé avec KT un service cloud d'IA basé sur des GPU AMD, exploitant plus de 2 000 de ces processeurs graphiques. Cette année, la société affirme avoir fourni son logiciel d'exploitation Token Factory hétérogène à plusieurs clients, dans des Token Factories en Corée et à l'étranger.