Vessel AI 为 Upstage Solar Pro 4 提供全球推理服务

Vessel AI 宣布，其已为 Upstage 的 Solar Pro 4 运营全球推理服务，利用位于韩国、欧洲和美国数据中心的 GPU 服务器处理全球用户请求。据 platum.kr 报道，Vessel AI 与 Upstage 协调了发布和推广日程，并预估了需求，以设计所需的处理容量。

Vessel AI 表示，通过提高缓存利用率和采用量化技术，其将处理速度平均提升了 2 倍，最高达 3 倍，并将每 token 成本最多降低了一半。

据 platum.kr 报道，Solar Pro 4 在约 9 月时于全球 LLM 路由平台 OpenRouter 上的使用量排名第三。

此前的 GPU 业务布局

Vessel AI 近期曾为 SK Biopharm 的 AI 研发提供 GPU 基础设施。此外，Vessel AI 与 Neo AI 签署协议，将在浦项 AI 数据中心建设和运营 GPU 平台。这些背景事实的日期未在给定信息中说明。