ARTICLE · 人工智能
自进化 WAM 来了!清华 AIR 联手域变换提出具身 In-Context Causal Learning
一语总结Zeva 是首个实现 In-Context Causal Learning 的具身 WAM,它让模型可以在不更新权重的情况下,从自己的交互经验中持续学习,从而在多个典型具身基准任务上将累计成功率从 26% 提升到 73%。
Zeva 解决了具身智能中模型适应新环境的瓶颈,通过 In-Context Causal Learning,模型可以从一次次交互中提取因果关系,并将其存储在双时标记忆中,用于指导后续的动作生成。这种方法避免了昂贵的微调或 test-time training,实现了部署中的自进化,并支持通过一次人类演示快速初始化模型。
- In-Context Causal Learning (ICCL)
Zeva 允许模型在推理过程中从交互数据中提取因果关系,并将其作为上下文用于后续决策,而无需更新模型权重。这实现了部署中的自进化,使模型能够适应新的物理环境和任务。
- 双时标因果记忆
Zeva 使用两种记忆机制:Brief Interaction Trace (BIT) 用于当前尝试的连贯执行,Persistent Interaction Memory (PIM) 用于跨尝试累积可复用的经验。这种结构使得模型可以从过去的失败中学习,并不断提升成功率。
- 一次性人类演示
Zeva 支持通过一次人类演示来初始化模型的记忆,帮助模型快速理解新任务或操作。实验显示,这种 warm-up 可以显著提高模型的成功率,尤其是在复杂任务中。
自进化 WAM 来了!清华 AIR 联手域变换提出具身 In-Context Causal Learning
Zeva 解决了具身智能中模型适应新环境的瓶颈,通过 In-Context Causal Learning,模型可以从一次次交互中提取因果关系,并将其存储在双时标记忆中,用于指导后续的动作生成。这种方法避免了昂贵的微调或 test-time training,实现了部署中的自进化,并支持通过一次人类演示快速初始化模型。
文章金句
"模型不更新,能力却持续增长。
"Zeva 是首个实现 In-Context Causal Learning 的具身 WAM。
"它让模型可以在不更新权重的情况下,从自己的交互经验中持续学习。