JEPA论文提出柏拉图表示定理
AI 总结
Randall Balestriero 与 Yann LeCun 于2026年10月29日将《Proving and Improving the Platonic Representation Hypothesis with JEPAs》提交至 arXiv。作者称,他们提出的定理适用于分别训练、正样本对为同一场景的两次观测且错位在一定范围内的 JEPA 编码器,这些编码器可学习到相差一次旋转的等价表示。他们报告的实验涵盖14.5万条标题以及与9.4亿张网络图片相关的文本。报告结果包括:为达到相同对齐程度,所需训练样本比下一词预测少42倍;1.09亿参数文本 JEPA 在 ImageNet-100 上取得64%的 top-5 准确率;应用一次旋转后,在 COCO 上取得0.838的 CIDEr 分数。
深度见解
该论文提出一项定理,并通过作者报告的实验论证:正视图而非规模本身,是构建对齐表示的关键因素。
Computer Science > Artificial Intelligence
arXiv:2610.39302 (cs)
[Submitted on 29 Oct 2026]
Title:Proving and Improving the Platonic Representation Hypothesis with JEPAs
Authors:Randall Balestriero, Yann LeCun
View a PDF of the paper titled Proving and Improving the Platonic Representation Hypothesis with JEPAs, by Randall Balestriero and 1 other authors
#Joint-Embedding Predictive Architectures#DINOv2#CLIP#ImageNet-100#COCO