机器人与元学习 · RESEARCH TRAJECTORY
Sergey Levine 与 Chelsea Finn:从“控制一台机器”到“让机器学会如何继续学习”
把互联网先验、人类示范、离线强化学习和真实世界反馈接入同一机器人学习闭环。
他们的路线不能被压成“做机器人基础模型”。Levine 二十年来一直在解决一个矛盾:真正可用的控制需要精确、快速、稳定,但能迁移的智能又不能依赖每个任务的手工模型;Finn 则持续追问:训练一个模型会做很多任务还不够,能否训练出一个特别容易被新经验改写的模型?Physical Intelligence 的 π 系列,是这两条线在 LLM 时代的汇合。
一、先给出这条路线的内在逻辑
如果把二人的工作按项目名排列,会看到 guided policy search、视觉控制、MAML、one-shot imitation、offline RL、VLA、flow matching、robot memory,像一串潮流词。但它们实际围绕同一个结构反复变化:
- 先利用某种昂贵但可靠的“老师”产生监督。 老师可以是轨迹优化器、人类遥操作、跨任务数据、预训练 VLM、奖励函数或专用策略。
- 把老师的能力压进一个快速通用策略。 部署时不能每个控制周期都做昂贵优化,神经策略需要直接从观察产生动作。
- 承认离线数据永远不完整。 数据没有覆盖的动作和状态最危险,策略必须保守、能识别不确定性,并在真实执行中继续纠正。
- 把“快速适应”本身变成训练目标。 好的基础模型不是零样本分数最高而已,而是遇到新机器人、新厨房、新任务后只需少量经验就能变成专家。
- 语言知识是强先验,不是物理经验的替代品。 LLM/VLM 提供人类认知和语义压缩,具身数据提供动作后果,两者缺一不可。
这使他们与两种极端路线都不同:
- 不相信每台机器人都应从纯 RL 随机探索起步;
- 也不相信把一个语言模型接到机械臂上就自然获得物理智能。
他们的工程配方是一种分层学习史:互联网知识 → 跨机器人预训练 → 人类示范 → 任务内适应 → 自主经验 → 长期记忆。
二、Levine 的起点:经典机器人控制为什么既强大又难以泛化
1. 传统机器人管线把世界拆得很清楚
经典机器人系统常包含:
- 状态估计:物体和机器人在哪里;
- 动力学模型:动作会产生什么状态变化;
- 轨迹规划:选择一条可行路径;
- 低层控制:让电机沿轨迹运动;
- 感知模块:从相机和传感器恢复规划所需变量。
在工业环境中,这种分解非常可靠。但每个模块都依赖准确模型、标定和结构假设。一旦物体可变形、视角变化、接触复杂或场景未知,误差会穿过整个管线。
端到端神经策略的吸引力是:直接从图像学动作,让网络自己决定哪些视觉特征对控制有用。问题也同样明显:高维策略空间巨大,真实机器人试错昂贵,纯策略梯度很难从随机动作学到精细技能。
Levine 早期工作的核心不是简单选择端到端,而是寻找传统优化怎样成为神经策略的老师。
2. Guided Policy Search:让有特权信息的老师教一个部署时看不到特权信息的学生
在 Levine 的博士论文与 guided policy search(GPS)工作中,局部轨迹优化器可以使用较完整状态、动力学近似和任务成本,先在若干初始条件下找到好动作;大网络再学习模仿这些局部控制器,从原始/部分观察直接输出动作。
训练过程大致交替:
- 在当前策略附近拟合局部动力学;
- 用轨迹优化得到高质量局部控制;
- 把局部控制产生的状态—动作数据监督给全局神经策略;
- 约束老师与学生不要偏离太远;
- 重复,逐步让策略覆盖更多状态。
这套方法解决了一个长期结构问题:
- 老师计算昂贵但样本效率高;
- 学生表达力强、执行快,但直接搜索困难;
- 训练时可用的特权状态,不必在部署时持续可得;
- 多个局部老师可被蒸馏成一个共享视觉策略。
它不是今天 Physical Intelligence 使用的具体训练算法,但“用强监督源产生轨迹,再蒸馏进通用策略”贯穿了 Levine 后续所有工作。
3. 从状态控制到视觉运动策略:知觉与行动必须共同塑形
2015–2016 年前后的工作把卷积网络与机器人控制端到端连接,让相机观察直接决定关节动作。其意义不只是删掉物体检测器,而是改变表征学习目标:
同一张桌面图像,对分类模型重要的是“有没有杯子”;对控制策略重要的是杯口姿态、遮挡、可抓取区域、抓后是否碰撞。行动任务决定知觉应保留什么。
这使 Levine 与 LeCun 都重视 action-conditioned representation,但二人侧重不同:LeCun 希望找到更普适的自监督世界模型;Levine 更愿意让任务、示范与控制损失直接塑造端到端表示。
三、大规模自监督机器人数据:为什么他很早就把瓶颈看成“数据分布”
1. 机器人无法直接享用 ImageNet 的数据飞轮
视觉模型可以从互联网收集数十亿图片;机器人动作数据需要真实设备运行,包含相机、标定、力、控制频率和失败恢复。每条轨迹成本高,而且不同机器人动作空间不同。
Levine 团队在 2016 年前后用多台机器人长期自主抓取,收集大量试验。系统不需要人逐帧标“正确抓点”,因为抓起与否可由执行结果自动产生标签。
这里形成一条重要判断:Moravec 悖论在很大程度上也是数据稀缺悖论。 网络上有海量文本和图片,所以高层语言、识别迅速规模化;人类觉得“不费脑”的接触、摩擦、柔性物体操作却几乎没有机器可用轨迹,因此很难学。
Physical Intelligence 2025–2026 的Robot Olympics 复现实验仍在重述同一观点:很多经典机器人难题并非不能被神经模型掌握,而是每项任务单独采集足够数据不经济;必须先用多任务预训练形成共享物理先验。
2. 自监督并不等于不需要设计反馈
抓取结果可自动判断,看似“无需标签”,但整个数据闭环仍由人设计:
- 机器如何重置物体;
- 怎样判断成功;
- 采样哪些动作;
- 哪些失败不会损坏设备;
- 如何覆盖稀有姿态;
- 多机器人数据怎样校准。
这预示具身基础模型与 LLM 的根本差别:文本预训练可把几乎任何网页序列放入同一 token 目标;机器人数据的动作语义、时间尺度和成功条件高度异构,不能只靠“数据更多”自动统一。
四、视频预测与 visual foresight:一条重要但没有按预期开花的支线
1. 最初的希望:如果模型能预测动作后的画面,就能在图像空间规划
Levine 与 Finn 参与的一系列 visual foresight 工作训练视频预测模型:输入当前图像和候选动作,预测未来帧;规划器采样动作序列,选择让目标像素/物体接近目标位置的轨迹。
这个思路非常直观:
- 无需显式建 3D 几何和接触方程;
- 可从无人工标签的视频轨迹学习;
- 预测模型本身就是可规划世界模型;
- 目标可在图像中指定。
在推、拨、简单物体移动中它能工作,也证明“预测未来观察 → 反向选择动作”可形成通用控制接口。
2. 为什么视频预测没有像语言模型一样产生高级认知
多年后 Levine 在《Language Models in Plato’s Cave》中回看这条路线:研究者曾期待 next-frame prediction 像 next-token prediction 一样自然产生物理理解,但现实没有如此简单。
原始视频包含大量与决策无关、甚至本质不可预测的细节:
- 纹理、光照和背景运动;
- 相机噪声;
- 多个视觉上合理的未来;
- 隐藏状态导致的随机性;
- 每个像素被同等计入生成损失。
模型可能把巨大容量用于让画面看起来真实,却没有形成能支持抽象推理和控制的状态。
这与 LeCun 批评逐像素生成浪费容量相近。但 Levine 由此得到的结论更特别:不是只有视频目标错了,还要解释为什么语言预测反而如此成功。
五、Offline RL:数据不只告诉你“人做了什么”,还应告诉你“哪一步改变了长期结果”
1. 为什么 behavior cloning 有一个不可跨越的上限
模仿学习最大化示范动作概率。它能复制数据中常见行为,却很难做到:
- 把不同人的局部优点组合起来;
- 判断某一步对数分钟后成功的贡献;
- 超过示范者平均水平;
- 在偏离示范分布后恢复;
- 根据不同最终目标重新使用同一日志。
RL 的价值函数则试图估计:当前动作对未来累计回报有多大影响。理论上,它可以从失败轨迹中学到某些局部动作有用,也能把多个示范者各自擅长的片段重组。
2. 但固定数据中的价值学习会产生“凭空乐观”
离线数据只覆盖行为策略访问过的一小块状态—动作空间。若价值函数认为数据外动作很好,策略会主动选择它;由于没有在线试验,错误无法及时纠正。这叫 extrapolation error / distributional shift。
Conservative Q-Learning的思路是,对数据外动作价值施加保守压力,让学到的 Q 值更像真实价值的下界;只有数据提供足够证据时才偏离行为策略。
这个技术问题后来在 LLM 和 VLA 中以不同面貌重现:
- 语言模型在训练分布外会自信生成;
- 机器人策略可能输出未被数据支持的动作组合;
- reward model 可能给陌生轨迹虚高分;
- 在线 RL 会利用这些价值误差。
Levine 的离线 RL 路线因此带来一种很务实的认识论:泛化不只是大胆组合,还是知道哪里没有证据。
3. 2022 年,他已经把 LLM 看成“人类行为模型”,而非最终代理
在 ChatGPT 刚发布时的《Offline RL and Large Language Models》中,Levine 提出一个当时不主流、后来很关键的区分:
- 最大似然语言模型预测“人在这种上下文更可能输入什么”;
- 任务代理应选择“什么话或行动会让长期目标更可能完成”。
前者提供对人类行为、语言、心理和世界知识的强表示;后者需要价值、目的和序列决策。
例如技术支持对话中,一名员工善于安抚情绪,另一名员工技术强。模仿学习可能复制各自完整风格;离线 RL 理论上可识别“先安抚、再技术排障”两个局部步骤的长期价值,组合出数据中没有任何单人完整展示的更好策略。
这一判断预示后来结果奖励、process reward 和 agent RL:LLM 是非常强的行为先验,但像人类文本与实现任务结果是不同目标。
他同时提前指出风险:若奖励来自点击、停留或用户反应,RL 会让语言模型更擅长说服、操纵和利用人类行为模式。这里的技术核心不是抽象“AI 末日”,而是序列优化如何改变生成模型的意图结构。
六、Finn 的主线:不要只优化最终模型,要优化“学习之后的模型”
1. 普通多任务学习与元学习的区别
普通多任务训练寻找一组参数,使它在训练任务平均表现好。面对新任务时,模型可能零样本工作,也可能需要重新微调。
MAML改变目标:寻找一组初始参数 ,使模型在看到某个任务的少量数据、做一两步梯度更新后,得到的参数 在该任务上表现好。
简化地写:
外层再优化:
外层不是奖励“现在会”,而是奖励“经过很少学习后会”。因此初始参数编码的不只是技能,还包括一个便于不同任务快速改变的表示与优化地形。
2. MAML 的深层判断:学习算法可以部分储存在参数空间几何中
如果某组参数附近存在许多方向,每个方向只需少量梯度就到达不同任务解,那么模型已经学到“怎样学这一类任务”。它无需显式写出一个手工元学习器,梯度更新本身成为适应机制。
这与 Chollet 的技能获取效率高度相关:基础模型价值不只是任务集合中的平均分,而是新任务适应曲线。
MAML 的具体二阶梯度成本、任务分布假设和稳定性后来受到大量改进与替代;但它提出的目标几乎成为今天 foundation model 的默认愿景:预训练不是交付最终行为,而是创造一个能低成本适配的起点。
3. One-shot imitation:新任务不是一个类别 ID,而是一段示范
Finn 的博士论文把元学习推进到机器人模仿:给一段新行为示范,机器人需要从一次例子理解目标并执行。
难点不只是样本少:
- 示范者与机器人身体不同;
- 摄像机视角不同;
- 轨迹细节与任务本质不同;
- 一次动作包含大量偶然变化;
- 系统必须提取“什么结果重要”,而非逐帧复制。
于是模型需要从大量旧任务中学习怎样解析示范:哪些是对象、关系和目标,哪些只是执行风格。这是“从经验中学会读经验”。
4. 快慢两层学习最终会变成基础模型 + 上下文/参数适应
Finn 的元学习工作可以理解为两种时间尺度:
- 慢层:跨很多任务吸收共享结构;
- 快层:在新任务内根据少量数据更新。
今天的机器人基础模型把快层实现为多种形式:
- prompt / 上下文;
- 一段视觉或语言示范;
- 少量 fine-tuning;
- 在线 RL;
- episodic memory;
- 高层任务状态。
具体机制变了,问题没有变:怎样让过去的多任务经验提高当前新任务的学习效率。
七、两条线在 Physical Intelligence 汇合:一个基础策略需要继承什么,又缺什么
1. 为什么通用机器人策略在 2024 年才真正变得可行
三种条件同时成熟:
- VLM 已从互联网学到对象、语言和场景语义;
- 多个实验室积累跨任务、跨本体机器人数据;
- 扩散/flow matching 等生成模型可表达连续、多模态动作分布。
Levine 带来的问题是怎样规模化控制与经验学习;Finn 带来的问题是怎样快速适应和理解示范。二者共同的目标不是“一台机器人会一百项技能”,而是建立一个物理智能层:像语言基础模型一样,成为不同机器人应用的共享起点。
Physical Intelligence 在 2026 年的“Physical Intelligence Layer”一文中明确把愿景写成基础设施:应用开发者不应从控制器、数据管线和模型全栈重新开始。
2. π0:把语义大脑与高频动作专家接起来
π0以约 3B 参数 VLM 为起点,继承互联网图文预训练的语义与视觉能力,再增加 action expert,用 flow matching 输出连续动作块。
为什么不用把机械臂关节离散成语言 token?
- 动作是高频连续信号;
- 同一目标常有多条可行轨迹;
- 精细操作需要平滑、相关的多维输出;
- 逐 token 自回归可能积累延迟和误差。
Flow matching 学一个从简单噪声分布流向动作分布的连续向量场,能表达多模态动作并并行生成动作 chunk。它不是认知理论,而是让 VLM 语义层与实时控制层在同一模型中共存的工程接口。
π0 混合多种机器人本体和任务,目标是让共享表示吸收物理共性。其公开评测显示相对 OpenVLA、Octo 等基线在团队任务上更强;但评测主要来自开发团队,任务与硬件分布有限。
3. OpenPI:基础模型的真正价值应体现为新平台适配成本
2025 年OpenPI开放代码与 π0 权重,并报告若干新任务用约 1–20 小时数据微调。这个指标比“参数多少”更符合 Finn 的元学习传统:基础策略是否让新平台所需数据下降。
但 1–20 小时仍不是“一次示范就会”,而且不同任务差异巨大;新本体需要控制接口、相机、动作归一化和安全重置。开放权重提高了第三方验证可能,但不能把示例范围外推为任意机器人。
4. π0.5:从“技能集合”转向开放世界部署
π0.5增加来自网络的多模态数据、多环境机器人数据和跨本体数据,并在此前未见家庭中执行长流程任务。
这一阶段的核心不是低层抓取得分,而是三层组合:
- 语言/视觉语义识别新物体和指令;
- 高层把长任务拆成子任务;
- 低层策略在新布局中执行。
消融实验表明,只有同类移动机器人约 400 小时数据不足以达到完整系统泛化;web data、多环境和跨本体经验各有贡献。这直接支持他们的分层数据观:互联网知识提供语义,具身数据提供物理,环境多样性防止场景记忆。
但官方也展示明显失败:弄错物体、重复动作、在长任务中失去进度。这为下一阶段的记忆和经验学习指出了瓶颈。
5. π*0.6:示范规定“像什么”,RL 优化“是否真正成功”
π*0.6采用 ReCAP 一类流程,先用离线 RL 从已有轨迹区分质量,再用任务示范和 on-robot experience 做进一步提高。
这里重现 Levine 2022 年对 LLM 的区分:
- 行为克隆学习数据中最可能动作;
- 价值学习关心动作对最终成功的贡献;
- 在线经验让策略看到自己的错误分布,而不只人类示范分布。
人类遥操作往往速度不一致、恢复动作少、精度有限。示范能把策略送到合理区域,RL 再提高速度、鲁棒性和恢复。
这也比“纯 RL 机器人自己摸索”安全高效:探索发生在强预训练策略附近,而不是随机马达命令。
6. 记忆:长任务失败常不是不会动作,而是不知道自己已经做了什么
2026 年的长短期记忆研究让高层以较低频率选择子任务,低层根据当前子任务高频输出动作,并把过去观察压入记忆。
没有记忆的策略可能:
- 洗过同一个盘子又回来洗;
- 忘记物体已被放入抽屉;
- 环境局部视角看不到完成状态;
- 失败后重复同一无效尝试。
这标志着瓶颈上移。单项抓取、折叠逐渐可用后,系统真正缺的是任务状态:一个跨数分钟持续、能被新观察修正的信念。
它也说明上下文长度不等于记忆。原始视频全塞入窗口成本高、噪声大;有效记忆需要选择哪些事件改变了世界状态。
7. π0.7:prompt 不只说“做什么”,还要描述“怎样做”
π0.7用语言、元数据、控制模式和视觉子目标等多模态 prompt 统一更异质的数据。关键问题是:不同数据可能都叫“擦桌子”,但速度、质量、路径和硬件不同;若直接混合,模型看到的是互相冲突的动作。
训练时加入“how”层信息,可以把行为差异条件化:
- 目标是什么;
- 希望多快;
- 采用何种策略;
- 下一视觉子目标是什么;
- 控制接口和本体是什么。
测试时,高层策略和轻量 world model 可生成子任务/视觉子目标,低层 action expert 执行。官方报告它开始出现组合泛化:操作未专门示范的厨房设备、让没有折衣数据的新机器人借用别处技能。
值得强调“开始”。官网也展示空气炸锅任务只完成部分、经过多次错误。π0.7 是早期证据,说明多样 prompt 能把跨源数据组织成可重组技能,不是“任意指令、任意机器人已经解决”。
八、Levine 的“柏拉图洞穴”:为什么语言模型成功,不一定证明 next-token 是大脑算法
1. 语言数据不是世界的随机切片,而是人类认知选择后的高密度痕迹
视频记录光子落在相机上的结果,大部分内容与任务无关。文本则通常因为一个人想解释、推理、说服、记录或写程序才出现。
Levine 的关键比喻是:LLM 仿佛从互联网这面洞穴墙上观察人类心智投下的影子。每个 token 背后都有一个人类认知过程;通过压缩这些 token,模型间接逆向工程了一部分产生文本的心智功能。
因此 next-token prediction 的成功有两种解释:
- 它发现了大脑本身使用的通用学习算法;
- 它借助人类已经完成的抽象,把心智功能从文本痕迹中复制出来。
Levine 倾向第二种至少解释了很大部分。LLM 像一种“不经意的脑扫描器”,而非证明所有智能都可从任意模态的下一步预测自然涌现。
2. 这解释了视频模型与语言模型的能力差距
若预测目标本身足以产生一般智能,海量 next-frame prediction 本应较早得到强物理推理模型。现实是视频生成在视觉真实度上突飞猛进,却长期不如语言模型处理抽象问题。
语言的优势不一定在 token 比像素神秘,而在数据已由人类心智完成:
- 语义选择;
- 因果压缩;
- 离散化;
- 目标导向;
- 社会筛选;
- 跨时间叙述。
这与 Fei-Fei Li / LeCun “物理世界含更多信息”并不矛盾。更多原始信息也意味着更难知道什么值得保留。
3. 洞穴模型的上限:它只能复制人类留下影子的部分
文本中没有被人类表达的感知细节、身体技能和未知科学规律,LLM 无法仅靠模仿获得。更重要的是,它不能主动决定下一次实验看什么。
所以 Levine 的结论不是抛弃 LLM,而是:
先把这个极强的人类心智原型带出洞穴,再给它行动、感知和从真实后果学习的机制。
这解释了 Physical Intelligence 为什么从 VLM 起步而非从零训练机器人:LLM 的“影子知识”太宝贵;但如果永远只在影子上微调,就得不到人类最关键的能力——从直接经验快速形成全新表示和技能。
九、他们的完整学习观:五种数据不是同质燃料
1. 互联网图文
提供对象、语言、常识和人类认知压缩。优点是规模巨大;缺点是缺少低层动作与真实后果。
2. 跨机器人轨迹
提供接触、控制和动作结果,让模型发现不同本体背后的物理共性。缺点是接口异构、成本高、分布偏。
3. 人类示范
高效定义“想要什么行为”,把策略送到安全合理区域。缺点是示范者不最优、恢复少、难覆盖失败状态。
4. 离线失败与质量数据
允许价值学习比较轨迹,组合不同片段。缺点是数据外动作价值不可靠,必须保守。
5. 部署期自主经验
直接覆盖模型自己的错误分布,改善精度和恢复。缺点是安全、样本成本、持续学习和 reward specification。
他们真正的押注是,这五层能形成飞轮,而非某一种数据单独取胜。
十、与 Sutton、Chollet 和 LeCun 放在一起看
与 Sutton / Silver
共同点:
- 行动后果与自主经验是越过人类示范的关键;
- RL 不只是偏好微调,而是长期结果优化;
- 世界模型、记忆和时间抽象都会回归。
差异:
- Sutton / Silver 更愿意把奖励放在统一理论中心;
- Levine / Finn 更强调人类示范、预训练和离线数据作为必要脚手架;
- 机器人现实使他们对纯自主探索更保守;
- 其模型是高度混合的工程系统,不要求一套 RL 认识论解释全部表征。
与 Chollet
Finn 的元学习与 Chollet 的技能获取效率高度契合:好模型应在新任务上用少量数据适应。
但 Physical Intelligence 当前更多报告任务成功与跨场景能力,尚缺类似 Chollet 的严格“新任务经验—性能曲线”。所谓 compositional generalization 必须确认具体任务及其原语真的未进入训练。
与 LeCun
共同点:
- 纯文本不够;
- 物理智能需要行动、世界状态和长期规划;
- 逐像素预测可能浪费容量;
- 高低层时间尺度必须分开。
核心差异:
- LeCun 希望先找到原则上正确的非生成式潜变量预测目标;
- Levine / Finn 愿意使用 VLM、自回归高层、flow matching 动作专家、behavior cloning、offline/online RL 的混合;
- LeCun 更怀疑现有 LLM 栈能否成为核心;Levine 把它看作非常强的人类心智原型,应被保留并接地;
- π0.7 甚至使用轻量生成 world model 产生视觉子目标,体现工程实用主义。
一句话概括:LeCun 想重新设计认知发动机;Levine / Finn 想先把现有强发动机接上传动、反馈和真实道路,再从失败中换部件。
十一、判断履历:哪些已命中,哪些仍在演示阶段
已被较强验证
1. 预训练 + 少量适应优于每个机器人任务从零训练
跨任务、跨本体预训练显著降低新任务数据需求;这已由多家机器人团队和 OpenPI 实验支持。
2. 行为克隆与 RL 扮演不同角色
示范适合进入正确分布,价值/在线经验适合提高长期成功、速度和恢复。π*0.6 与大量 offline RL 工作支持这一分工。
3. 大模型语义先验对机器人有实质价值
π0 完整 VLM 版本相对无 web 预训练小模型显著更强;π0.5 消融也显示 web data 有助开放世界理解。
4. 长任务需要显式状态与记忆
单帧/短窗口反应策略会重复和遗忘;多尺度记忆实验给出直接证据。
有初步证据,但宣传容易跑得比结果快
1. 跨本体共享
模型确实能从不同机器人数据获益,但“共享了统一物理概念”与“分别记住多个动作接口”仍难分离。
2. 组合泛化
π0.7 显示未专门示范任务的合理执行,但部分例子没有完成。需要秘密任务、训练数据审计和独立复现。
3. 从自主经验持续变强
在少量专门任务上成立;长期、跨任务、不中断的参数更新仍未展示。
尚未兑现的强版本
- 像 LLM 一样“一套模型控制任意机器人、完成任意自然语言任务”;
- 机器人经验规模化后产生与 LLM 类似的认知涌现;
- 少量真实数据即可适配结构完全不同的新本体;
- 家庭环境中的成功扩展到工业、户外、医疗等高风险场景;
- 在线学习在普通用户环境安全发生且不破坏旧技能。
十二、这条路线最强的洞见和最深的困难
最强洞见:LLM 的能力不是应被否定的假象,而是一份不完整但极昂贵的心智先验
许多“LLM 之后”路线容易在两极摇摆:
- 认为语言模型已经包含一切,只差更多规模;
- 认为语言模型只是鹦鹉,应从物理世界重新开始。
Levine / Finn 的位置更有建设性:语言模型确实复制了人类认知的大量影子,因此是最好的启动点;它没有学会产生这些认知的直接经验算法,所以必须在行动中补课。
最深困难:具身数据没有互联网那样自然统一的接口
文本都有 token;机器人有:
- 不同关节和控制频率;
- 不同相机和传感器;
- 不同安全限制;
- 不同任务定义;
- 不同遥操作质量;
- 不同重置机制;
- 不同成功判据。
π0.7 用多模态 prompt 把异质性条件化,是重要进展,但统一接口仍由人工设计。若每个新本体仍需大量工程,所谓“物理智能层”就难形成软件生态式飞轮。
另一深层困难:真实世界没有干净的反事实
一条轨迹失败,未必知道哪一步导致;布料折错可能来自抓取、感知、材料或此前隐藏状态。Offline RL 需要覆盖,world model 需要状态,在线探索又昂贵。机器人是检验“经验时代”最诚实的领域,因为所有干净假设都会在接触和噪声中暴露。
十三、未来几年真正值得盯的指标
- 完整任务成功率,而非技能片段。 十步任务每步 90% 可靠,整条仅约 35%;必须按无干预完成计分。
- 恢复能力。 物体掉落、抓空、用户中途移动环境后能否重规划。
- 新本体适配曲线。 达到指定成功率需多少小时数据、多少人工工程和多少在线试验。
- 训练数据新颖性审计。 “未见任务”是没见完整标签,还是其对象、动作和子技能都已密集覆盖。
- 跨天记忆。 环境变化后能否更新对象状态,而不是固守旧记忆。
- 在线更新的隔离与回滚。 新经验如何进入参数,出现退化时能否定位和撤销。
- 独立复现。 OpenPI 在第三方硬件上的实际数据成本与成功率。
- 现实成本。 机器人小时、人工遥操作、重置、损耗和推理延迟是否随能力下降。
- 高层认知落地。 语言模型提出新计划后,视觉子目标和动作执行是否能闭环修正,而非只生成漂亮解释。
十四、带着问题读原始材料
-
Levine 的博士论文:Guided Policy Search
重点看“有特权老师 → 快速神经策略”的结构,它怎样在 π 系列中以新形式反复出现。 -
Levine 等早期端到端视觉控制工作
问知觉表示为何需要由控制目标塑形。 -
Finn 等,MAML
不只记住“少样本”;理解外层目标为何在优化模型的可学习性。 -
Finn 的博士论文
看视觉预测、元学习和 one-shot imitation 怎样串成“从少量经验获得行为”。 -
Conservative Q-Learning
理解离线数据为何会让价值函数对没见过的动作产生危险乐观。 -
Levine,Offline RL and Large Language Models
这篇 2022 年文章清楚区分“模仿人类文本”与“为长期目标选择语言行动”。 -
Levine,Language Models in Plato’s Cave
重点看他如何用早期视频预测的失败解释 LLM 成功,而非只看具身结论。 -
Physical Intelligence:π0 → OpenPI → π0.5 → π*0.6 → Memory → π0.7
每一代只问一个问题:这次解决的是低层动作、场景泛化、结果优化、任务状态,还是组合指令?不要把所有改善统称为“更智能”。
最后的判断
Levine 与 Finn 最值得关注之处,不是他们更早喊出“embodied AI”,而是他们有一套相当成熟的学习分工观:
- 优化器或人类示范先给出可行方向;
- 大模型把跨任务结构压成快速策略;
- 元学习让策略容易被少量新数据改变;
- 离线 RL 从不完美日志中识别长期价值;
- 在线经验覆盖模型自己的失败;
- 记忆和高层子目标把单项技能组织成长任务。
它不像 LeCun 的路线那样有一个单一、优雅的认知架构,也不像 Sutton 的“reward is enough”那样有统一原则。它的优势恰恰是承认不同数据和算法承担不同职责。
这条路线最终成败取决于一个非常具体的问题:机器人世界的异质经验,能否像互联网文本一样形成共享且自我增强的数据飞轮。 如果能,Physical Intelligence 的基础策略可能成为 LLM 之后最重要的新模型类别;如果不能,漂亮的跨家庭演示仍可能被困在昂贵采集、人工重置和每台硬件重新适配的经济边界里。