斯坦福等团队发布潜在空间推理技术Hybrid Reasoning Agents
斯坦福大学、Meta、Together AI与伊利诺伊大学厄巴纳-香槟分校联合提出该技术,在11项基准测试中生成token减少35.5%至54.7%。
斯坦福大学、Meta、Together AI与伊利诺伊大学厄巴纳-香槟分校组成的联合研究团队10月19日宣布一项名为Hybrid Reasoning Agents的新型AI推理技术。该方法让模型在由数值向量构成的潜在空间中完成中间推理,而不是把每一步推理都生成文本token。
据digitaltoday.co.kr报道,该技术把用于内部问题求解的“潜在模式”与用于工具调用和最终答案输出的“文本模式”结合起来,两者通过名为HybridLink的技术衔接。要应用这一方法,需在预训练模型上加入监督微调方法HybridSFT和强化学习方法HybridRL。
团队基于Qwen3对4B、8B和14B参数规模的模型进行了评估,测试覆盖数学、科学和搜索共11项基准。结果显示,与现有方法相比,生成token数量减少35.5%至54.7%,推理速度提升1.8至2.6倍。
在效果方面,问题求解性能平均提升10.4%;4B模型的估算计算成本降至传统方法的约27%。
团队已在GitHub和Hugging Face上公开代码与训练数据。相关结果收录于一篇尚未经过同行评审的论文中。
快速问答
Hybrid Reasoning Agents是什么?
这是斯坦福大学、Meta、Together AI与伊利诺伊大学厄巴纳-香槟分校联合提出的AI推理技术,让模型在潜在空间中完成中间推理,而非逐步生成文本token。
测试结果如何?
在基于Qwen3的4B、8B和14B模型上的11项基准测试中,生成token减少35.5%至54.7%,推理速度提升1.8至2.6倍,问题求解性能平均提升10.4%。
代码和训练数据是否公开?
团队已在GitHub和Hugging Face上发布代码与训练数据,相关论文尚未经过同行评审。