MangoBoost、サーバーレスAI推論基盤「Mango Inference」を発表
MangoBoostがサーバーレスAI推論サービス「Mango Inference」を発表。APIキー管理や推論分析を一元提供する。
MangoBoostは12日、ソウルで記者会見を開き、サーバーレスAI推論プラットフォーム「Mango Inference」を発表した。
Mango Inferenceは、同社のフルスタックAIインフラ上に構築された推論サービスだ。サーバーレスサービスと、予定されている専用推論サービスの2種類を提供する。
利用者は別途の設定なしにすぐ使えるモデルを選択できるほか、専用エンドポイントを利用することもできる。
プラットフォームは、APIキー管理、推論使用量とステータスの監視、リクエスト・トラフィック・レイテンシ・トークンの分析、支払い履歴を一元的に提供する。
CEOが示したAIインフラの方向性
会見でキム・ジャンウCEOは、AIインフラ市場の変化について言及し、AIインフラの重心が訓練から推論とエージェントへ移りつつあるとの見方を示した。同会見の内容はinews24.comが伝えている。
よくある質問
Mango Inferenceとは何ですか？
MangoBoostが発表したサーバーレスAI推論プラットフォームで、同社のフルスタックAIインフラ上に構築されている。
どのような機能が利用できますか？
APIキー管理、推論使用量とステータスの監視、リクエスト・トラフィック・レイテンシ・トークンの分析、支払い履歴の確認を一元的に利用できる。
専用サービスはありますか？
サーバーレスサービスに加え、予定されている専用推論サービスがあり、利用者は専用エンドポイントを選択できる。