망고부스트, 서버리스 AI 추론 플랫폼 'Mango Inference' 공개

망고부스트가 12일 서울에서 열린 기자간담회에서 서버리스 AI 추론 플랫폼 'Mango Inference'를 공개했다고 inews24.com이 보도했다.

'Mango Inference'는 망고부스트의 풀스택 AI 인프라를 기반으로 구축된 추론 서비스다. 서버리스 방식과 전용 추론 서비스를 제공할 예정이다.

사용자는 별도 설정 없이 바로 사용 가능한 모델을 선택하거나 전용 엔드포인트를 이용할 수 있다. 플랫폼은 API 키 관리, 추론 사용량 및 상태 모니터링, 요청·트래픽·지연 시간·토큰 분석, 결제 내역을 한곳에서 제공한다.

간담회에서 김장우 대표는 AI 인프라 시장의 변화 속에서 망고부스트의 비전을 제시하며, AI 인프라의 무게 중심이 학습에서 추론과 에이전트로 이동하고 있다고 밝혔다.