Cafe24推出LLM Router 自动按难度与成本选模型
Cafe24的LLM Router支持约270个AI模型，并设有实时仪表板，供用户查看用量与费用。
据zdnet.co.kr报道，Cafe24正在推广其LLM Router服务，该服务通过单一API连接多个AI模型，并可依据任务难度与成本自动选择模型。
Cafe24表示，LLM Router的自动路由功能cafe24/auto会根据任务难度和费用挑选合适的模型。在无月基本费、无合约的按量付费方案下，调用失败不计费。用户还可通过实时仪表板查看使用量与费用情况。
该服务支持的模型数量已从上线时的约120个增至约270个。
KT与Rebellions同推AI基础设施
KT于10月27日发布AI集成平台Token Factory，并于10月30日起面向企业客户提供正式服务。该平台初期通过一个API提供73个AI模型，并支持模型选择、用量监控与计费。KT计划本月通过与OpenRouter对接，将支持的模型扩展至500个以上。
AI基础设施软件公司Rebellions则于上月23日宣布，其AI基础设施管理解决方案Continuum Enterprise获得首个供货合同。
据OpenRouter数据，每周处理的token量从去年10月的4.89万亿增至上月的172万亿，一年间增长约35倍。
快速问答
Cafe24的LLM Router支持多少个AI模型？
支持的模型数量已从上线时的约120个增至约270个。
LLM Router的自动路由如何计费？
采用无月基本费、无合约的按量付费方案，调用失败不计费。
KT的Token Factory目前提供多少个模型？
初期通过一个API提供73个AI模型，并计划本月扩展至500个以上。