广告合作
人工智能

斯坦福等团队发布潜在空间推理技术Hybrid Reasoning Agents

斯坦福大学、Meta、Together AI与伊利诺伊大学厄巴纳-香槟分校联合提出该技术,在11项基准测试中生成token减少35.5%至54.7%。

斯坦福大学、Meta、Together AI与伊利诺伊大学厄巴纳-香槟分校组成的联合研究团队10月19日宣布一项名为Hybrid Reasoning Agents的新型AI推理技术。该方法让模型在由数值向量构成的潜在空间中完成中间推理,而不是把每一步推理都生成文本token。

据digitaltoday.co.kr报道,该技术把用于内部问题求解的“潜在模式”与用于工具调用和最终答案输出的“文本模式”结合起来,两者通过名为HybridLink的技术衔接。要应用这一方法,需在预训练模型上加入监督微调方法HybridSFT和强化学习方法HybridRL。

团队基于Qwen3对4B、8B和14B参数规模的模型进行了评估,测试覆盖数学、科学和搜索共11项基准。结果显示,与现有方法相比,生成token数量减少35.5%至54.7%,推理速度提升1.8至2.6倍。

在效果方面,问题求解性能平均提升10.4%;4B模型的估算计算成本降至传统方法的约27%。

团队已在GitHub和Hugging Face上公开代码与训练数据。相关结果收录于一篇尚未经过同行评审的论文中。

快速问答

Hybrid Reasoning Agents是什么?

这是斯坦福大学、Meta、Together AI与伊利诺伊大学厄巴纳-香槟分校联合提出的AI推理技术,让模型在潜在空间中完成中间推理,而非逐步生成文本token。

测试结果如何?

在基于Qwen3的4B、8B和14B模型上的11项基准测试中,生成token减少35.5%至54.7%,推理速度提升1.8至2.6倍,问题求解性能平均提升10.4%。

代码和训练数据是否公开?

团队已在GitHub和Hugging Face上发布代码与训练数据,相关论文尚未经过同行评审。

来源