杨立昆用15M参数打平了万亿参数

15M 参数，1 块 GPU，打平了用 1.24 亿张图片预训练的巨型模型，规划速度快 48 倍。

为什么删掉所有的训练技巧，结果反而更好？一个不预测像素、只预测抽象表征的 AI，真的比被迫生成像素的 AI 更懂物理吗？

2024 年 Sora 发布时，整个 AI 社区在庆祝"世界模型终于来了"。

但有一个人不买账。

杨立昆（Yann LeCun），图灵奖得主，当时还是 Meta 首席 AI 科学家。他从 2022 年就在说同一件事。那年他发表了一篇 62 页的 position paper，标题叫"A Path Towards Autonomous Machine Intelligence"。核心主张只有一句：用像素预测世界是浪费的，注定失败的。AI 应该在抽象表征空间做预测，不是在像素空间。

整个 AI 社区几乎没有人听。

2024 年 2 月，Sora 发布前后，他在 X 上写了一段话：

"Modeling the world for action by generating pixel is as wasteful and doomed to failure as the largely-abandoned idea of 'analysis by synthesis'."

"That’s why generative models for sensory inputs are doomed to failure."

翻译成人话：用像素生成来建模世界，跟当年已经被抛弃的"通过合成来分析"一样，既浪费，又注定失败。

53 万次浏览。281 次转发。行业的反应：几乎没人当回事。

2025 年 11 月，杨立昆从 Meta 离职。他没有退休，而是共同创立了 AMI Labs，拿到 10.3 亿美元种子轮融资，估值 35 亿美元。投资人包括 NVIDIA 和贝索斯。他把全部赌注押在了一个方向上：世界模型。

现在，OpenAI 已宣布 Sora 即将停止服务。OpenAI 转手发布了 ChatGPT Images 2.0，工程能力强到整个行业都在讨论。而杨立昆的论文，刚刚出来。

2025 到 2026 年，AI 行业的主旋律是一场军备竞赛。

OpenAI 的 Sora 生成电影级视频，以生成逼真的视频帧为目标。GPT 据报道有超过万亿个参数。Google DeepMind 的 DreamerV4 在 Minecraft 里用像素级重建学会了打游戏。整个行业的共识清晰到不需要讨论：模型更大、数据更多、trick 更复杂，就是进步。

所有人都在做同一件事——让 AI 看到更多像素，生成更多像素，记住包多像素。

越大越好。越复杂越强。

2026 年 3 月，arXiv 上安静地出现了一篇论文。

作者列表第四个名字是杨立昆（Yann LeCun），AMI Labs 创始人。论文叫 LeWorldModel。

但参数表看起来像是写错了。

15M 参数。2 项损失函数。1 个需要调整的超参数。1 块 GPU。训练时间：几个小时。

GPT-4 据报道有超过万亿个参数。LeWorldModel 不到它的万分之一。

在一个所有人都在比谁的 GPU 更多的时代，这篇论文像是从另一个平行宇宙寄过来的信。

一篇不该成功的论文

LeWorldModel（以下简称 LeWM）是一种叫做 JEPA（联合嵌入预测架构） 的世界模型。这个名字听起来拗口，但它做的事情用一句话就能说清：它不预测像素，只预测"嵌入"。

翻译成人话：它不试图重建世界的每一个细节，只保留预测未来所需要的骨架，丢掉纹理、光影、颜色这些不可预测的噪声。

这个想法听起来合理。但 JEPA 有一个致命弱点：表示崩塌（representation collapse）。

翻译成人话：模型发现了一个作弊捷径。如果它把所有输入都映射成同一个点，那"预测未来"就变成了一个永远正确的废话——因为未来和现在已经被压缩成了同一个东西。这就像一个学生发现每次都回答"不知道"也能得满分，他就永远不会真正学习。

之前最好的解法叫 PLDM。它用了 7 项不同的损失函数和 6 个需要反复调整的超参数来防止崩塌。代价是训练不稳定，每换一个测试环境就要从头调参。用七把锁来锁一扇门，结果锁和锁之间互相卡死了。

LeWM 的做法完全不同。它只用了一把锁。

这把锁叫 SIGReg，它背后的数学原理是 Cramér-Wold 定理（克拉梅尔-沃尔德）——一个近百年前就证明了的统计学结果。这个定理说：如果你想确认一个高维分布是否符合标准正态分布（这在 192 维的空间中几乎不可能直接验证），你只需要从各个方向做一维投影，然后检查每个投影是否像正态分布。如果所有投影都像，那整体就是。

比方说你去体检。医生不需要打开你的身体检查每一个器官。他查血压、血糖、血脂、心率这几十项指标，如果每项都正常，他就可以判断你大体是健康的。SIGReg 对潜空间做的就是这种指标式体检——从 1024 个随机方向做投影，用一个叫 Epps-Pulley 正态性检验（一种统计学工具）逐一检查。不需要直接观测 192 维空间的全貌，也不需要任何工程 trick。

整个训练目标只剩两项：一项让模型学会预测（收缩力），一项让嵌入保持多样性（展开力）。需要调整的超参数从 6 个降到了 1 个。搜索策略从 O(n?) 的网格搜索变成了 O(log n) 的二分法。

结果出来后，有点不讲道理：

不只是打败了同为端到端的 PLDM。LeWM 还和 DINO-WM 打了个平手——后者冻结了 DINOv2 编码器，那个编码器是用大约 1.24 亿张图片预训练出来的。LeWM 从零开始，5M 参数的编码器，在 Push-T 上反而更好（96% vs 74%）。规划速度快 48 倍。

两项损失。一块 GPU。几个小时。

这张表的重点不在任何一行，而在两张表的对比本身：更少的约束，更好的结果。这不是偶然的。

这里有一个违反直觉的事实值得停下来想一想：为什么删掉大部分防崩塌工程技巧反而更稳定？直觉上，更多的稳定化手段应该带来更稳定的训练。

但论文也没有回避自己的失败。在 Two-Room 这个最简单的环境之一中，LeWM 只做到 87%，而 DINO-WM 是 100%。原因很具体：LeWM 强制嵌入匹配高维高斯分布，但 Two-Room 的真实数据结构是低维的。先验和现实不匹配。在这种情况下，越强的先验伤害越大。

这其实是整篇论文最有信息量的发现之一：最简单的问题，是最好的压力测试。

没人要求它学会的事

论文的第五章报告了一个训练目标之外的发现。

LeWM 在训练过程中，潜空间中的轨迹越来越"直"。具体来说，连续时间步的潜速度向量之间的余弦相似度从接近 0 上升到了大约 0.6。这意味着模型把复杂的时间动态编码成了近乎直线的潜轨迹。

但没有任何损失项要求它这样做。SIGReg 只约束每个时间步的分布形状，完全不涉及时间维度上的任何约束。

翻译成人话：模型自己学会了“把复杂的事情简化成直线运动”这件事。没有任何人要求它这样做。

时间路径拉直（temporal latent path straightening） 是纯粹的涌现现象。它不是被设计出来的，而是从正确的约束条件中自然生长出来的。

更有意思的是对比。PLDM 有一个专门设计的时间平滑损失叫 L_time-sim，明确鼓励轨迹变直。它投入了额外的计算和一个专用的超参数来做这件事。

然后 LeWM 的轨迹比 PLDM 更直。

一个专门花力气设计的功能，被一个完全没有考虑过这件事的系统在涌现中超越了。这不是鸡汤。这是被量化数据支撑的工程事实。

2019 年，神经科学家埃纳夫（Hénaff）等人发表了一篇关于人类视觉系统的研究。他们发现人类大脑也会把复杂的时间动态表征为近乎直线的潜轨迹。这被称为"时间拉直假说"。

进化没有"设计"这个特性。它是视觉处理在自然选择压力下的涌现副产品。

LeWM 在没有任何生物学先验的情况下，独立涌现了相同的性质。

一个在 1 块 GPU 上训练了几个小时的 15M 参数模型，和几亿年进化出来的人类大脑，在表征时间动态的方式上走到了同一个地方。这不能证明什么因果关系，但它暗示了一个深刻的可能性：时间路径拉直可能不是人类大脑的特例，而是任何高效时序预测系统的通用归纳偏置。

回到前面预埋的那个问题：为什么删掉大部分防崩塌工程技巧反而更稳定？

因为 PLDM 的 7 项损失意味着 7 个梯度方向在争夺同一组参数。每项损失都在告诉模型"你应该往这边走"，但 7 个方向互相矛盾，最终的参数更新方向是一个嘈杂的折中。就像七个人同时拉一辆车的七条绳子，车在原地打转。

LeWM 只有 2 个方向。预测损失（收缩力）想让所有嵌入趋同，SIGReg（展开力）想让嵌入保持散开。两股力量的拉锯产生一个清晰的平衡点。信号干净，折中明确。

进化生物学中有一个完全同构的结构：自然选择是收缩力（物种趋同），突变是展开力（物种分散），两者的张力平衡产生了适应性物种。LeWM 的两项损失，本质上是这种张力的工程化实现。

像测试婴儿一样测试 AI

发展心理学有一个经典的实验范式叫 VoE（违反预期，Violation-of-Expectation）。

做法很简单。给 4 个月大的婴儿看两类场景：正常的场景（一个球滚下斜面，碰到墙停下来）和违反物理规律的场景（一个球穿过了墙）。然后测量婴儿盯着屏幕看了多长时间。如果婴儿看违规场景的时间显著更长，说明它觉得"不对劲"——它有物理直觉，知道物体不应该穿墙。

论文的作者用同样的方法测试了 LeWM。他们准备了三种轨迹：

1. 正常轨迹：物体按物理规律运动

2. 物理违规：物体瞬移到一个随机位置

3. 视觉变化：物体颜色突然改变

然后测量 LeWM 的"惊讶程度"——模型的预测误差峰值。

结果清楚到不需要解释。

物体瞬移：LeWM 显著惊讶。p

物体变色：几乎无反应。

LeWM 学会了在意"物体不会凭空消失"，但不在乎"物体变了什么颜色"。它学会了区分与预测相关的信息（位置、运动）和与预测无关的信息（颜色、纹理）。

这恰恰是杨立昆四年来一直在说的那句话的实验验证。

理解不是还原所有细节，而是知道哪些细节可以忽略。

人类也是如此。我们能预测一个球从桌面滚下来之后会怎么运动，但几乎没人能精确回忆球表面是什么颜色、什么纹理。我们的大脑在做和 LeWM 相同的事情——保留骨架，丢弃噪声。

论文还做了一个反面验证。他们尝试给 LeWM 加上像素重建损失——强制模型去"看清"每一个像素级别的细节，理论上这应该帮助模型"更好地理解"环境。

结果反而变差了。训练方差从 ±2.83 暴增到 ±7.54。因为重建损失迫使编码器记住和控制无关的视觉细节（纹理、阴影、光照变化），这些细节变成了规划时的噪声。"看得越清楚"不等于"理解得越深"。

他到底在反对什么

到这里可以把镜头从论文本身拉远一步。

LeWorldModel 这篇论文写得非常克制。它的对手是 PLDM 和 DINO-WM——两个 JEPA 家族内部的竞品。它没有和 Sora、Dreamer、DIAMOND 做直接实验对比。论文里没有任何一句话在挑衅生成式路线。

但论文的存在本身就是一个立场声明。

因为它的共同作者，就是前面说了四年“wasteful”的那个人。论文没有替他宣战，但数据替他说话了。

他用过一个类比。你想模拟一个足球的飞行轨迹。你需要建模球表面每一个六边形的材质吗？不需要。你只需要质量、速度和重力。

像素重建路线在做的事情，是建模每一个六边形。LeWM 在做的事情，是只保留质量、速度和重力。

然后实验发现：只保留骨架的模型，反而更懂物理。

但杨立昆对了吗？

现在还不能下结论。LeWM 目前只在简单的连续控制任务上验证过——Push-T（推一个 T 形方块到目标位置）、Reacher（机械臂触达目标）、Two-Room（房间导航）。它没有在 Minecraft、Crafter 这些复杂的离散动作环境中测试。在比较复杂的 3D 环境（OGBench-Cube）中，DINO-WM 仍然更强。

而且 JEPA 有一个结构性弱点：因为它不重建像素，你无法可视化地检查模型在"想象"什么。如果模型产生了物理幻觉，你看不到。生成式世界模型至少可以把想象的画面渲染出来供人检查。

这场路线之争远没有结束。

但 LeWM 至少证明了一件事：在 JEPA 的阵地上，极简路线不只是可行的，而且可能比复杂路线更好。两项损失打败了七项损失。涌现出来的时间拉直比专门设计的时间拉直更直。不看像素的 AI 比被迫看像素的 AI 更懂物理。

回到开头。

2025 到 2026 年，整个 AI 行业的默认信仰是"越大越好，越复杂越强"。

一个图灵奖得主用 15M 参数和 2 项损失写了一篇论文。它没有宣战，没有骂人。只是安静地证明了一组数据。

论文的附录里有一个容易被忽略的细节：SIGReg 的内部参数——投影方向的数量 M 和积分节点数——对最终性能"几乎无影响"。也就是说，这个方法的成功不依赖于精心调参。它依赖的是一个近百年前就被证明了的数学定理的正确性。

其实这就是杨立昆一直在说的那件事的最好注脚。

整个行业都在试图复制上帝的视网膜。他只想借走一点物理直觉。