MangoBoost lance Mango Inference, plateforme d'inférence IA sans serveur
MangoBoost a présenté Mango Inference, un service d'inférence IA sans serveur avec gestion des clés API et analyses d'utilisation, lors d'une conférence de presse à Séoul le 12.
MangoBoost a dévoilé le 12 sa plateforme d'inférence IA sans serveur, Mango Inference, lors d'une conférence de presse à Séoul, selon inews24.com.
Mango Inference est un service d'inférence bâti sur l'infrastructure IA complète de MangoBoost. Il propose des services d'inférence sans serveur ainsi qu'un service d'inférence dédié prévu.
Les utilisateurs peuvent sélectionner des modèles prêts à l'emploi sans configuration supplémentaire ou utiliser des points de terminaison dédiés. La plateforme regroupe la gestion des clés API, la surveillance de l'utilisation et de l'état de l'inférence, des analyses sur les requêtes, le trafic, la latence et les tokens, ainsi que l'historique des paiements.
Lors de cette conférence, le PDG Kim Jang-woo a présenté la vision de MangoBoost face aux évolutions du marché de l'infrastructure IA, indiquant que le centre de gravité de ce secteur se déplace de l'entraînement vers l'inférence et les agents.
En bref
Qu'est-ce que Mango Inference ?
C'est une plateforme d'inférence IA sans serveur dévoilée par MangoBoost, qui propose des services d'inférence sans serveur et un service dédié prévu.
Quelles fonctionnalités propose Mango Inference ?
Elle offre la gestion des clés API, la surveillance de l'utilisation et de l'état de l'inférence, des analyses sur les requêtes, le trafic, la latence et les tokens, ainsi que l'historique des paiements.
Où et quand Mango Inference a-t-elle été présentée ?
Elle a été dévoilée le 12 lors d'une conférence de presse à Séoul.