ARTICLE · 人工智能
中美 NeoLab 对话:模型和 Agent 如何实现「持续学习」?
一语总结本文整理两位持续学习研究者在 AGI Playground 2026 的深度对谈,围绕 Agent 如何将交互经验转化为能力,呈现世界模型路线与 LoRA 策略模型路线的核心分歧。
文章是林敏(AMI Labs 创始科学家)与 Andrew Chen(Mind Lab 创始人)在新加坡 AGI Playground 2026 上的对谈全文,由 Founder Park 整理。两人围绕 Agent 的持续学习展开交锋:林敏强调世界模型,认为失败轨迹与无明确好坏标签的信息都可用于学习环境状态转移;Andrew Chen 更看重 LoRA 与策略模型,主张用足够强的编码 Agent 区分轨迹并写入参数。对谈依次讨论记忆与学习的连续谱、KV Cache / LoRA / 世界模型承载记忆的成本权衡、持续更新中的灾难性遗忘问题、预训练与后训练阶段如何吸收经验,以及百万级 LoRA 协作、路由机制能否成为扩展智能的新维度。结尾两人给出不同预期:林敏短期悲观、长期乐观,认为人类水平的持续学习需要根本性突破;Andrew 预计模型一年内将开始自我训练、自我评估并自主设计实验。
- 短期记忆存在上下文中,长期记忆要等下一轮预训练才能写入权重,这是 Agent 无法从经验中学习的核心缺口。
当前模型缺乏将交互经验即时写入参数的机制,需要按天、按小时更新参数的基础设施,以及能自动化该过程的模型。
- 记忆与学习是同一连续谱的两端,区别在于压缩程度与更新成本。
从硬盘存储到概念理解之间存在完整谱系,LoRA 等参数化记忆帮助模型从事实中吸收概念,同一事实重复出现四次可让概念浮现。
- 持续学习存在两条路线:世界模型强调理解因果结构,LoRA 策略模型强调区分轨迹并写入参数。
林敏认为失败轨迹也是环境状态转移信息,应放入预训练阶段;Andrew 认为所有轨迹都可通过 DPO 等方式区分正负样本,只需训练策略模型。
- 模型数量与协作机制可能成为扩展智能的新维度。
Mind Lab 已将 LoRA 扩展到百万级,协作性能与模型数量对数呈近线性关系;路由是协作的初始形式,人类社会级协作机制更具潜力。
- 人类水平的持续学习需要根本性突破,但模型自我进化可能一年内出现。
当前深度学习按 i.i.d. 离线训练,与人类非独立同分布的学习方式根本不同;Andrew 预计模型将开始自我训练、自我评估、自主设计实验。
中美 NeoLab 对话:模型和 Agent 如何实现「持续学习」?
文章是林敏(AMI Labs 创始科学家)与 Andrew Chen(Mind Lab 创始人)在新加坡 AGI Playground 2026 上的对谈全文,由 Founder Park 整理。两人围绕 Agent 的持续学习展开交锋:林敏强调世界模型,认为失败轨迹与无明确好坏标签的信息都可用于学习环境状态转移;Andrew Chen 更看重 LoRA 与策略模型,主张用足够强的编码 Agent 区分轨迹并写入参数。对谈依次讨论记忆与学习的连续谱、KV Cache / LoRA / 世界模型承载记忆的成本权衡、持续更新中的灾难性遗忘问题、预训练与后训练阶段如何吸收经验,以及百万级 LoRA 协作、路由机制能否成为扩展智能的新维度。结尾两人给出不同预期:林敏短期悲观、长期乐观,认为人类水平的持续学习需要根本性突破;Andrew 预计模型一年内将开始自我训练、自我评估并自主设计实验。
文章金句
"短期记忆存在上下文中,但长期记忆可能需要等几个月,也许要等到下一轮预训练,才能把所有数据写入权重。
"从世界模型的角度来看,不存在好数据或坏数据,一切都是环境状态转移。
"即使是失败轨迹也只是信息,都应该放进预训练阶段。
"我们很可能看到能够自我训练、自我评估、自主设计实验的模型。
"我们发现,协作性能与模型数量的对数之间存在近线性关系。