베셀AI, 업스테이지 '솔라 프로 4' 글로벌 추론 운영

베셀AI(Vessel AI)가 업스테이지의 '솔라 프로 4'(Solar Pro 4) 글로벌 추론 서비스를 운영했다고 밝혔다. 전 세계 사용자 요청을 자사 GPU 인프라에서 처리한 방식이다.

베셀AI는 한국과 유럽, 미국에 위치한 데이터센터의 GPU 서버를 활용해 추론 요청을 처리했다고 설명했다. 업스테이지의 솔라 프로 4는 지난 9월경 글로벌 LLM 라우팅 플랫폼 OpenRouter 사용량 순위에서 3위에 올랐다.

양사는 출시 및 프로모션 일정과 예상 수요를 함께 조율하며 필요한 처리 용량을 설계했다고 베셀AI는 전했다.

베셀AI에 따르면 캐시 활용도를 높이고 양자화 기법을 적용해 처리 속도를 평균 2배, 최대 3배까지 끌어올렸으며 토큰당 비용은 최대 절반으로 줄였다.

앞서 베셀AI는 SK바이오팜의 AI 연구·개발용 GPU 인프라를 공급했고, 네오AI와 포항 AI 데이터센터에서 GPU 플랫폼을 구축·운영하는 협약을 체결한 바 있다. 이 같은 내용은 platum.kr이 보도했다.