MangoBoost推出AI推理平台 江南建1MW AI工厂
韩国AI基础设施公司MangoBoost推出AI推理平台Mango Inference并启动付费服务,计划明年第一季度在首尔江南建成1MW AI工厂。
据techm.kr报道,韩国AI基础设施公司MangoBoost正式推出人工智能推理平台Mango Inference,并已启动付费服务。客户可通过API在该公司自有基础设施上运行开放权重模型,无需自行搭建计算设施。
MangoBoost目前在该平台上支持5个模型,并计划在模型发布后一个月内接入新模型。
在基础设施方面,MangoBoost计划在首尔江南建设一座1MW级AI工厂,目标于明年第一季度完工。该公司正在引入数百块AMD GPU,目前已确保数十块。MangoBoost表示,其软件在AMD的MI355X GPU上实现的推理性能,与基于NVIDIA B300的系统相当或更高。
融资与长期扩张计划
MangoBoost计划在今年内完成B轮融资,募资将用于江南1MW AI工厂的建设。公司还计划到明年将AI工厂规模扩展至1-5MW,长期目标最高达500MW,并涵盖海外基础设施。
据techm.kr报道,MangoBoost此前与AMD合作约3年,以提升GPU推理性能。该公司过去的业务模式以供应服务器、网络等组件技术为主,而非直接销售推理服务。
快速问答
Mango Inference是什么?
MangoBoost推出的AI推理平台,客户可通过API在该公司基础设施上运行开放权重模型,无需自建基础设施。目前已启动付费服务。
MangoBoost的1MW AI工厂建在哪里?
计划建在首尔江南,目标于明年第一季度完工,资金将部分来自计划今年内完成的B轮融资。
MangoBoost支持多少个模型?
目前支持5个模型,并计划在模型发布后一个月内接入新模型。