ARTICLE · 人工智能
斯坦福最新课程发布:教 AI Agent 自我进化!
一语总结斯坦福 CS329A 课程教授 AI Agent 如何通过搜索、验证和环境反馈实现自我改进,课程资料已公开。
文章介绍斯坦福大学最新开设的 CS329A《Self-Improving AI Agents》课程,由 Aakanksha Chowdhery 和 Azalia Mirhoseini 共同讲授。课程聚焦于模型训练完成后,如何通过搜索、验证器、环境反馈和强化学习让 AI Agent 持续自我改进。内容涵盖测时算力扩展、ReAct、树搜索、多步规划、基于代码反馈的强化学习、训练时轨迹回放(如 STaR、DeepSeekMath、DAPO),以及将这些方法应用于编码 Agent、长时任务记忆管理和多模态机器人。课程主页、阅读清单和官方视频已公开,适具有一定机器学习基础的读者深入学习 AI Agent 的前沿技术。
- 课程核心是让 AI Agent 在训练后通过搜索、验证和环境反馈持续自我改进。
CS329A 不再只教如何构建 Agent,而是探讨模型训练完成后,如何利用外部反馈循环让模型在任务中变得更强。
- 课程内容分为前半程的测时算力扩展与工具使用,后半程的训练时轨迹回放与多模态应用。
前半程讲解多采样、验证器、ReAct、树搜索等;后半程介绍 STaR、DeepSeekMath、DAPO 等方法,并将其用于编码 Agent、长时任务记忆和机器人领域。
- 课程由业界顶尖专家讲授,并邀请了 DeepMind、Reflection AI 等一线研究者分享前沿实践。
主讲教师曾参与 PaLM、Gemini、Claude 等大模型项目;嘉宾包括 Melvin Johnson、Denny Zhou、Misha Laskin 等,确保内容兼具学术深度与产业视角。
斯坦福最新课程发布:教 AI Agent 自我进化!
文章介绍斯坦福大学最新开设的 CS329A《Self-Improving AI Agents》课程,由 Aakanksha Chowdhery 和 Azalia Mirhoseini 共同讲授。课程聚焦于模型训练完成后,如何通过搜索、验证器、环境反馈和强化学习让 AI Agent 持续自我改进。内容涵盖测时算力扩展、ReAct、树搜索、多步规划、基于代码反馈的强化学习、训练时轨迹回放(如 STaR、DeepSeekMath、DAPO),以及将这些方法应用于编码 Agent、长时任务记忆管理和多模态机器人。课程主页、阅读清单和官方视频已公开,适具有一定机器学习基础的读者深入学习 AI Agent 的前沿技术。
文章金句
"斯坦福的答案是:让 AI 学会自己改进自己。
"这里的「自改进」不是让 Agent 随意改自己的代码。
"课程从 LLM 自改进方法讲起,包括 Constitutional AI、验证器、测试时算力扩展、搜索与 LLM 的结合,以及通过强化学习扩展训练。