杨立昆H-JEPA世界模型:反对Agent与RSI
AI 总结
杨立昆(Yann LeCun)的新世界模型H-JEPA被视为其2022年论文中分层JEPA设想的首个可复现完整实现:它把多个JEPA逐层堆叠,每层各有观察编码器、动作编码器和潜在预测器,在不同时间跨度上预测状态,规划时由高层给出粗略目标、再逐层细化到底层动作。报道称,在Visual AntMaze任务中单层LeWM成功率仅18%,三层H-JEPA达到73%;但Push-T任务两层表现最好,三层、四层反而下降,三层约用58%的可迁移训练数据,四层仅约14%。训练既不用奖励也不做像素重建,在DROID真实机器人遥操作数据上若不加逆动力学约束会出现慢特征坍缩、性能降至零;文章据此将该模型解读为对当下主流智能体“多拆步骤、多花token”路线以及递归自我改进(RSI)的反对。
深度见解
分层世界模型若成立,可能提示提升AI能力的路径不止于在同一粒度上扩大上下文与试错次数。