研究团队发布TheoPhysEval,GPT-6 Astra解出50题中的49题
该基准由35名研究人员组成的团队发布,在允许联网搜索和运行代码的条件下,GPT-6 Astra解出49道未发表的理论物理题,API总成本为116.28美元。
由35名研究人员组成的团队于2026年10月9日发布了一个名为TheoPhysEval的基准,用于测试AI智能体在多大程度上能自主解决理论物理研究问题,测试条件包括使用网络搜索和代码执行工具。据aitimes.com报道,该团队包括ICTS、塔塔基础研究所、宾夕法尼亚大学和Google DeepMind。
在50道未发表的理论物理题上,GPT-6 Astra在没有人提示的情况下解出49道。其API总成本为116.28美元,平均每题约2.33美元。
其他模型的成绩为:Opus 5.5解出46题,Gemini 3.8 Flash解出34题,DeepSeek-V4.1 Flash解出27题,GLM-5.3解出21题。在封锁网络访问的条件下,GPT-6 Astra与Opus 5.5各解出46题。
GPT-6 Astra唯一失败的一题是找出生成给定曲线的微分方程,其余模型在该题上也全部失败。评分过程中,GPT-6 Astra最初被判定错误的答案经专家复核后发现正确——专家同时修正了自身参考解中的细微错误,使其最终准确率升至98%。
论文合著者、ICTS研究员Subhraj Raju于14日在其个人博客中讲述了这次评估的起因,并表示看到结果后连续数日无法入睡。
快速问答
TheoPhysEval是什么?
TheoPhysEval是一个测试AI智能体自主解决理论物理研究问题能力的基准,测试中允许使用网络搜索和代码执行工具。
GPT-6 Astra在TheoPhysEval上的成绩如何?
它在50道未发表的理论物理题中解出49道,API总成本为116.28美元,最终准确率为98%。