强化学习的开创者之一 Rich Sutton 和他从前的学生 Khurram Javed 认为,今天的大模型在使用时权重不变,人造的合成数据也补不上真实世界。他们 2026 年 6 月合办的 Oak Lab,要做边用边学、自己形成抽象再据此规划的智能体。
合成数据补不上真实世界
Sutton 说合成数据是“一个大错误”。理由是两人 2024 年一篇论文里的“大世界假设”:世界比任何智能体、任何模拟器都复杂得多,智能体只能带着近似去行动,再随经验不断修正。Javed 补了一个更实际的理由:哪些合成数据是好的,仍要人来判断,所以这条路被人类专家卡住。他举自动驾驶为例:模拟器靠工程师一轮轮修补和真实世界的差距,他主张让智能体从自己的经验里学出模型,再在里面规划。
灾难性遗忘能治,靠的是两件事
模型一边用一边更新,会把旧知识冲掉,这叫灾难性遗忘。Sutton 说它“完全可以治”:每个权重有自己的学习步长,并且这些步长也要学出来,大部分权重动得很慢;再不断加入随机初始化的新单元,让反向传播去筛选。后者就是他们 2024 年在 Nature 上发表的“持续反向传播”,那篇论文显示,标准深度学习在持续学习中会逐渐失去可塑性,持续把一小部分少用的单元重新随机初始化才能保住它。Javed 说,这些方法没法套在现成的大模型上,要从头训练一个新的基础模型。
和科学的关系:自己学模型,再用它规划
Sutton 说,这个领域还没有哪个系统先学出世界的模型、再用它来规划;AlphaGo 和用 Lean 证明定理能做到,是因为规则是现成给的。Javed 把科学上的范式转变也说成同一种能力:人从经验里造出新的抽象,用它规划,再发现新知识,而这正是现在的系统缺的。两人的说法都是判断,节目里没有给出实验结果。
目标和边界
他们的目标是五到十年内做出一个一万亿参数、只用 20 瓦就能持续学习的“心智”。Sutton 按摩尔定律算,十年约提升两个数量级,所以今天应能在约 2,000 瓦上做到。Javed 认为大实验室卡在局部最优,新路线在变好之前会先变差,Oak Lab 会从很小的团队做起。节目里没有 Oak Lab 自己的结果、基准或产品;唯一发表过的证据是 2024 年那篇 Nature 论文,测的是标准任务,不是 Oak Lab 的系统。Sutton 说大语言模型只占智能的“20% 或四分之一”,这是他的看法。

