研究：JEPA模型表示收敛获数学证明，训练样本最多省42倍

纽约大学教授、AMI Labs创始人Yann LeCun与布朗大学教授Randall Balestriero于2026年10月29日在arXiv发布论文，从数学上说明独立训练的JEPA模型在何种条件下会形成相同的内部表示（可相差一个旋转），并报告在达到同等表示相似度时，JEPA所需训练样本最多可比下一词元预测少42倍。据aitimes.com报道，论文题为关于Platonic表示假说的研究。

论文给出的核心数据来自一项采用“Good Views”数据构建方式的JEPA：它与下一词元预测达到相同的内部表示相似度时，JEPA用了2160万训练样本，而后者需要9亿样本，相差约42倍；若按训练所用文本词元计算，差距为14倍。

另一个实验显示，一个1.09亿参数的JEPA在约9.4亿张带关联文本的网络图片上训练后，在内部表示相似度上对图像AI的得分高于参数量最高达720亿的语言模型。主评测中该JEPA得分为0.184，Qwen2.5-72B为0.154。

从预测实验到跨模态对齐

研究团队依据优质视图数据占比与训练样本数量构建了一条预测律，并用它预测了85项尚未运行的实验结果，误差与不同随机种子带来的运行间波动相近，但在部分大规模训练场景下误差有所增大。

论文还描述了另一组实验：通过一个简单数学变换把分别训练的图像模型与文本模型连接起来，仅用3万对图像—描述数据学习该变换，即可生成描述图像内容的句子；另一项实验则在无图文对应数据的情况下对齐了两个模型的内部表示。

论文同时指出，实验并未完全满足数学假设，大规模实验中的许多文本由图像描述AI生成；剔除这类自动生成的描述后，表示对齐的性能出现下降。研究分析媒体Esscher与开发者社区Hacker News对该论文进行了讨论。