MangoBoost 发布无服务器 AI 推理平台 Mango Inference
MangoBoost 于 12 日推出基于全栈 AI 基础设施的无服务器推理平台 Mango Inference，支持即用模型与专用端点。
据 inews24.com 报道，MangoBoost 于 12 日发布了其无服务器 AI 推理平台 Mango Inference。该平台是构建在 MangoBoost 全栈 AI 基础设施之上的推理服务。
Mango Inference 提供无服务器推理服务以及计划中的专用推理服务。用户无需单独配置即可选择即用型模型，也可以使用专用端点。
该平台将 API 密钥管理、推理用量与状态监控、请求、流量、延迟和 token 分析以及支付历史整合在同一界面中。
发布会背景
在此前的发布会上，MangoBoost CEO Kim Jang-woo 介绍了公司的愿景。他表示，AI 基础设施的重心正在从训练转向推理和智能体。