AI思想图谱Research trajectories
机器人与元学习22 分钟
04

机器人与元学习 · RESEARCH TRAJECTORY

Sergey Levine 与 Chelsea Finn:从“控制一台机器”到“让机器学会如何继续学习”

导读

把互联网先验、人类示范、离线强化学习和真实世界反馈接入同一机器人学习闭环。

他们的路线不能被压成“做机器人基础模型”。Levine 二十年来一直在解决一个矛盾:真正可用的控制需要精确、快速、稳定,但能迁移的智能又不能依赖每个任务的手工模型;Finn 则持续追问:训练一个模型会做很多任务还不够,能否训练出一个特别容易被新经验改写的模型?Physical Intelligence 的 π 系列,是这两条线在 LLM 时代的汇合。

一、先给出这条路线的内在逻辑

如果把二人的工作按项目名排列,会看到 guided policy search、视觉控制、MAML、one-shot imitation、offline RL、VLA、flow matching、robot memory,像一串潮流词。但它们实际围绕同一个结构反复变化:

  1. 先利用某种昂贵但可靠的“老师”产生监督。 老师可以是轨迹优化器、人类遥操作、跨任务数据、预训练 VLM、奖励函数或专用策略。
  2. 把老师的能力压进一个快速通用策略。 部署时不能每个控制周期都做昂贵优化,神经策略需要直接从观察产生动作。
  3. 承认离线数据永远不完整。 数据没有覆盖的动作和状态最危险,策略必须保守、能识别不确定性,并在真实执行中继续纠正。
  4. 把“快速适应”本身变成训练目标。 好的基础模型不是零样本分数最高而已,而是遇到新机器人、新厨房、新任务后只需少量经验就能变成专家。
  5. 语言知识是强先验,不是物理经验的替代品。 LLM/VLM 提供人类认知和语义压缩,具身数据提供动作后果,两者缺一不可。

这使他们与两种极端路线都不同:

  • 不相信每台机器人都应从纯 RL 随机探索起步;
  • 也不相信把一个语言模型接到机械臂上就自然获得物理智能。

他们的工程配方是一种分层学习史:互联网知识 → 跨机器人预训练 → 人类示范 → 任务内适应 → 自主经验 → 长期记忆。


二、Levine 的起点:经典机器人控制为什么既强大又难以泛化

1. 传统机器人管线把世界拆得很清楚

经典机器人系统常包含:

  • 状态估计:物体和机器人在哪里;
  • 动力学模型:动作会产生什么状态变化;
  • 轨迹规划:选择一条可行路径;
  • 低层控制:让电机沿轨迹运动;
  • 感知模块:从相机和传感器恢复规划所需变量。

在工业环境中,这种分解非常可靠。但每个模块都依赖准确模型、标定和结构假设。一旦物体可变形、视角变化、接触复杂或场景未知,误差会穿过整个管线。

端到端神经策略的吸引力是:直接从图像学动作,让网络自己决定哪些视觉特征对控制有用。问题也同样明显:高维策略空间巨大,真实机器人试错昂贵,纯策略梯度很难从随机动作学到精细技能。

Levine 早期工作的核心不是简单选择端到端,而是寻找传统优化怎样成为神经策略的老师

2. Guided Policy Search:让有特权信息的老师教一个部署时看不到特权信息的学生

在 Levine 的博士论文与 guided policy search(GPS)工作中,局部轨迹优化器可以使用较完整状态、动力学近似和任务成本,先在若干初始条件下找到好动作;大网络再学习模仿这些局部控制器,从原始/部分观察直接输出动作。

训练过程大致交替:

  1. 在当前策略附近拟合局部动力学;
  2. 用轨迹优化得到高质量局部控制;
  3. 把局部控制产生的状态—动作数据监督给全局神经策略;
  4. 约束老师与学生不要偏离太远;
  5. 重复,逐步让策略覆盖更多状态。

这套方法解决了一个长期结构问题:

  • 老师计算昂贵但样本效率高;
  • 学生表达力强、执行快,但直接搜索困难;
  • 训练时可用的特权状态,不必在部署时持续可得;
  • 多个局部老师可被蒸馏成一个共享视觉策略。

它不是今天 Physical Intelligence 使用的具体训练算法,但“用强监督源产生轨迹,再蒸馏进通用策略”贯穿了 Levine 后续所有工作。

3. 从状态控制到视觉运动策略:知觉与行动必须共同塑形

2015–2016 年前后的工作把卷积网络与机器人控制端到端连接,让相机观察直接决定关节动作。其意义不只是删掉物体检测器,而是改变表征学习目标:

同一张桌面图像,对分类模型重要的是“有没有杯子”;对控制策略重要的是杯口姿态、遮挡、可抓取区域、抓后是否碰撞。行动任务决定知觉应保留什么。

这使 Levine 与 LeCun 都重视 action-conditioned representation,但二人侧重不同:LeCun 希望找到更普适的自监督世界模型;Levine 更愿意让任务、示范与控制损失直接塑造端到端表示。


三、大规模自监督机器人数据:为什么他很早就把瓶颈看成“数据分布”

1. 机器人无法直接享用 ImageNet 的数据飞轮

视觉模型可以从互联网收集数十亿图片;机器人动作数据需要真实设备运行,包含相机、标定、力、控制频率和失败恢复。每条轨迹成本高,而且不同机器人动作空间不同。

Levine 团队在 2016 年前后用多台机器人长期自主抓取,收集大量试验。系统不需要人逐帧标“正确抓点”,因为抓起与否可由执行结果自动产生标签。

这里形成一条重要判断:Moravec 悖论在很大程度上也是数据稀缺悖论。 网络上有海量文本和图片,所以高层语言、识别迅速规模化;人类觉得“不费脑”的接触、摩擦、柔性物体操作却几乎没有机器可用轨迹,因此很难学。

Physical Intelligence 2025–2026 的Robot Olympics 复现实验仍在重述同一观点:很多经典机器人难题并非不能被神经模型掌握,而是每项任务单独采集足够数据不经济;必须先用多任务预训练形成共享物理先验。

2. 自监督并不等于不需要设计反馈

抓取结果可自动判断,看似“无需标签”,但整个数据闭环仍由人设计:

  • 机器如何重置物体;
  • 怎样判断成功;
  • 采样哪些动作;
  • 哪些失败不会损坏设备;
  • 如何覆盖稀有姿态;
  • 多机器人数据怎样校准。

这预示具身基础模型与 LLM 的根本差别:文本预训练可把几乎任何网页序列放入同一 token 目标;机器人数据的动作语义、时间尺度和成功条件高度异构,不能只靠“数据更多”自动统一。


四、视频预测与 visual foresight:一条重要但没有按预期开花的支线

1. 最初的希望:如果模型能预测动作后的画面,就能在图像空间规划

Levine 与 Finn 参与的一系列 visual foresight 工作训练视频预测模型:输入当前图像和候选动作,预测未来帧;规划器采样动作序列,选择让目标像素/物体接近目标位置的轨迹。

这个思路非常直观:

  • 无需显式建 3D 几何和接触方程;
  • 可从无人工标签的视频轨迹学习;
  • 预测模型本身就是可规划世界模型;
  • 目标可在图像中指定。

在推、拨、简单物体移动中它能工作,也证明“预测未来观察 → 反向选择动作”可形成通用控制接口。

2. 为什么视频预测没有像语言模型一样产生高级认知

多年后 Levine 在《Language Models in Plato’s Cave》中回看这条路线:研究者曾期待 next-frame prediction 像 next-token prediction 一样自然产生物理理解,但现实没有如此简单。

原始视频包含大量与决策无关、甚至本质不可预测的细节:

  • 纹理、光照和背景运动;
  • 相机噪声;
  • 多个视觉上合理的未来;
  • 隐藏状态导致的随机性;
  • 每个像素被同等计入生成损失。

模型可能把巨大容量用于让画面看起来真实,却没有形成能支持抽象推理和控制的状态。

这与 LeCun 批评逐像素生成浪费容量相近。但 Levine 由此得到的结论更特别:不是只有视频目标错了,还要解释为什么语言预测反而如此成功。


五、Offline RL:数据不只告诉你“人做了什么”,还应告诉你“哪一步改变了长期结果”

1. 为什么 behavior cloning 有一个不可跨越的上限

模仿学习最大化示范动作概率。它能复制数据中常见行为,却很难做到:

  • 把不同人的局部优点组合起来;
  • 判断某一步对数分钟后成功的贡献;
  • 超过示范者平均水平;
  • 在偏离示范分布后恢复;
  • 根据不同最终目标重新使用同一日志。

RL 的价值函数则试图估计:当前动作对未来累计回报有多大影响。理论上,它可以从失败轨迹中学到某些局部动作有用,也能把多个示范者各自擅长的片段重组。

2. 但固定数据中的价值学习会产生“凭空乐观”

离线数据只覆盖行为策略访问过的一小块状态—动作空间。若价值函数认为数据外动作很好,策略会主动选择它;由于没有在线试验,错误无法及时纠正。这叫 extrapolation error / distributional shift。

Conservative Q-Learning的思路是,对数据外动作价值施加保守压力,让学到的 Q 值更像真实价值的下界;只有数据提供足够证据时才偏离行为策略。

这个技术问题后来在 LLM 和 VLA 中以不同面貌重现:

  • 语言模型在训练分布外会自信生成;
  • 机器人策略可能输出未被数据支持的动作组合;
  • reward model 可能给陌生轨迹虚高分;
  • 在线 RL 会利用这些价值误差。

Levine 的离线 RL 路线因此带来一种很务实的认识论:泛化不只是大胆组合,还是知道哪里没有证据。

3. 2022 年,他已经把 LLM 看成“人类行为模型”,而非最终代理

在 ChatGPT 刚发布时的《Offline RL and Large Language Models》中,Levine 提出一个当时不主流、后来很关键的区分:

  • 最大似然语言模型预测“人在这种上下文更可能输入什么”;
  • 任务代理应选择“什么话或行动会让长期目标更可能完成”。

前者提供对人类行为、语言、心理和世界知识的强表示;后者需要价值、目的和序列决策。

例如技术支持对话中,一名员工善于安抚情绪,另一名员工技术强。模仿学习可能复制各自完整风格;离线 RL 理论上可识别“先安抚、再技术排障”两个局部步骤的长期价值,组合出数据中没有任何单人完整展示的更好策略。

这一判断预示后来结果奖励、process reward 和 agent RL:LLM 是非常强的行为先验,但像人类文本实现任务结果是不同目标。

他同时提前指出风险:若奖励来自点击、停留或用户反应,RL 会让语言模型更擅长说服、操纵和利用人类行为模式。这里的技术核心不是抽象“AI 末日”,而是序列优化如何改变生成模型的意图结构。


六、Finn 的主线:不要只优化最终模型,要优化“学习之后的模型”

1. 普通多任务学习与元学习的区别

普通多任务训练寻找一组参数,使它在训练任务平均表现好。面对新任务时,模型可能零样本工作,也可能需要重新微调。

MAML改变目标:寻找一组初始参数 θ\theta,使模型在看到某个任务的少量数据、做一两步梯度更新后,得到的参数 θi\theta'_i 在该任务上表现好。

简化地写:

θi=θαθLitrain(θ)\theta'_i = \theta - \alpha \nabla_\theta L_i^{train}(\theta)

外层再优化:

minθiLitest(θi)\min_\theta \sum_i L_i^{test}(\theta'_i)

外层不是奖励“现在会”,而是奖励“经过很少学习后会”。因此初始参数编码的不只是技能,还包括一个便于不同任务快速改变的表示与优化地形。

2. MAML 的深层判断:学习算法可以部分储存在参数空间几何中

如果某组参数附近存在许多方向,每个方向只需少量梯度就到达不同任务解,那么模型已经学到“怎样学这一类任务”。它无需显式写出一个手工元学习器,梯度更新本身成为适应机制。

这与 Chollet 的技能获取效率高度相关:基础模型价值不只是任务集合中的平均分,而是新任务适应曲线。

MAML 的具体二阶梯度成本、任务分布假设和稳定性后来受到大量改进与替代;但它提出的目标几乎成为今天 foundation model 的默认愿景:预训练不是交付最终行为,而是创造一个能低成本适配的起点。

3. One-shot imitation:新任务不是一个类别 ID,而是一段示范

Finn 的博士论文把元学习推进到机器人模仿:给一段新行为示范,机器人需要从一次例子理解目标并执行。

难点不只是样本少:

  • 示范者与机器人身体不同;
  • 摄像机视角不同;
  • 轨迹细节与任务本质不同;
  • 一次动作包含大量偶然变化;
  • 系统必须提取“什么结果重要”,而非逐帧复制。

于是模型需要从大量旧任务中学习怎样解析示范:哪些是对象、关系和目标,哪些只是执行风格。这是“从经验中学会读经验”。

4. 快慢两层学习最终会变成基础模型 + 上下文/参数适应

Finn 的元学习工作可以理解为两种时间尺度:

  • 慢层:跨很多任务吸收共享结构;
  • 快层:在新任务内根据少量数据更新。

今天的机器人基础模型把快层实现为多种形式:

  • prompt / 上下文;
  • 一段视觉或语言示范;
  • 少量 fine-tuning;
  • 在线 RL;
  • episodic memory;
  • 高层任务状态。

具体机制变了,问题没有变:怎样让过去的多任务经验提高当前新任务的学习效率。


七、两条线在 Physical Intelligence 汇合:一个基础策略需要继承什么,又缺什么

1. 为什么通用机器人策略在 2024 年才真正变得可行

三种条件同时成熟:

  1. VLM 已从互联网学到对象、语言和场景语义;
  2. 多个实验室积累跨任务、跨本体机器人数据;
  3. 扩散/flow matching 等生成模型可表达连续、多模态动作分布。

Levine 带来的问题是怎样规模化控制与经验学习;Finn 带来的问题是怎样快速适应和理解示范。二者共同的目标不是“一台机器人会一百项技能”,而是建立一个物理智能层:像语言基础模型一样,成为不同机器人应用的共享起点。

Physical Intelligence 在 2026 年的“Physical Intelligence Layer”一文中明确把愿景写成基础设施:应用开发者不应从控制器、数据管线和模型全栈重新开始。

2. π0:把语义大脑与高频动作专家接起来

π0以约 3B 参数 VLM 为起点,继承互联网图文预训练的语义与视觉能力,再增加 action expert,用 flow matching 输出连续动作块。

为什么不用把机械臂关节离散成语言 token?

  • 动作是高频连续信号;
  • 同一目标常有多条可行轨迹;
  • 精细操作需要平滑、相关的多维输出;
  • 逐 token 自回归可能积累延迟和误差。

Flow matching 学一个从简单噪声分布流向动作分布的连续向量场,能表达多模态动作并并行生成动作 chunk。它不是认知理论,而是让 VLM 语义层与实时控制层在同一模型中共存的工程接口。

π0 混合多种机器人本体和任务,目标是让共享表示吸收物理共性。其公开评测显示相对 OpenVLA、Octo 等基线在团队任务上更强;但评测主要来自开发团队,任务与硬件分布有限。

3. OpenPI:基础模型的真正价值应体现为新平台适配成本

2025 年OpenPI开放代码与 π0 权重,并报告若干新任务用约 1–20 小时数据微调。这个指标比“参数多少”更符合 Finn 的元学习传统:基础策略是否让新平台所需数据下降。

但 1–20 小时仍不是“一次示范就会”,而且不同任务差异巨大;新本体需要控制接口、相机、动作归一化和安全重置。开放权重提高了第三方验证可能,但不能把示例范围外推为任意机器人。

4. π0.5:从“技能集合”转向开放世界部署

π0.5增加来自网络的多模态数据、多环境机器人数据和跨本体数据,并在此前未见家庭中执行长流程任务。

这一阶段的核心不是低层抓取得分,而是三层组合:

  • 语言/视觉语义识别新物体和指令;
  • 高层把长任务拆成子任务;
  • 低层策略在新布局中执行。

消融实验表明,只有同类移动机器人约 400 小时数据不足以达到完整系统泛化;web data、多环境和跨本体经验各有贡献。这直接支持他们的分层数据观:互联网知识提供语义,具身数据提供物理,环境多样性防止场景记忆。

但官方也展示明显失败:弄错物体、重复动作、在长任务中失去进度。这为下一阶段的记忆和经验学习指出了瓶颈。

5. π*0.6:示范规定“像什么”,RL 优化“是否真正成功”

π*0.6采用 ReCAP 一类流程,先用离线 RL 从已有轨迹区分质量,再用任务示范和 on-robot experience 做进一步提高。

这里重现 Levine 2022 年对 LLM 的区分:

  • 行为克隆学习数据中最可能动作;
  • 价值学习关心动作对最终成功的贡献;
  • 在线经验让策略看到自己的错误分布,而不只人类示范分布。

人类遥操作往往速度不一致、恢复动作少、精度有限。示范能把策略送到合理区域,RL 再提高速度、鲁棒性和恢复。

这也比“纯 RL 机器人自己摸索”安全高效:探索发生在强预训练策略附近,而不是随机马达命令。

6. 记忆:长任务失败常不是不会动作,而是不知道自己已经做了什么

2026 年的长短期记忆研究让高层以较低频率选择子任务,低层根据当前子任务高频输出动作,并把过去观察压入记忆。

没有记忆的策略可能:

  • 洗过同一个盘子又回来洗;
  • 忘记物体已被放入抽屉;
  • 环境局部视角看不到完成状态;
  • 失败后重复同一无效尝试。

这标志着瓶颈上移。单项抓取、折叠逐渐可用后,系统真正缺的是任务状态:一个跨数分钟持续、能被新观察修正的信念。

它也说明上下文长度不等于记忆。原始视频全塞入窗口成本高、噪声大;有效记忆需要选择哪些事件改变了世界状态。

7. π0.7:prompt 不只说“做什么”,还要描述“怎样做”

π0.7用语言、元数据、控制模式和视觉子目标等多模态 prompt 统一更异质的数据。关键问题是:不同数据可能都叫“擦桌子”,但速度、质量、路径和硬件不同;若直接混合,模型看到的是互相冲突的动作。

训练时加入“how”层信息,可以把行为差异条件化:

  • 目标是什么;
  • 希望多快;
  • 采用何种策略;
  • 下一视觉子目标是什么;
  • 控制接口和本体是什么。

测试时,高层策略和轻量 world model 可生成子任务/视觉子目标,低层 action expert 执行。官方报告它开始出现组合泛化:操作未专门示范的厨房设备、让没有折衣数据的新机器人借用别处技能。

值得强调“开始”。官网也展示空气炸锅任务只完成部分、经过多次错误。π0.7 是早期证据,说明多样 prompt 能把跨源数据组织成可重组技能,不是“任意指令、任意机器人已经解决”。


八、Levine 的“柏拉图洞穴”:为什么语言模型成功,不一定证明 next-token 是大脑算法

1. 语言数据不是世界的随机切片,而是人类认知选择后的高密度痕迹

视频记录光子落在相机上的结果,大部分内容与任务无关。文本则通常因为一个人想解释、推理、说服、记录或写程序才出现。

Levine 的关键比喻是:LLM 仿佛从互联网这面洞穴墙上观察人类心智投下的影子。每个 token 背后都有一个人类认知过程;通过压缩这些 token,模型间接逆向工程了一部分产生文本的心智功能。

因此 next-token prediction 的成功有两种解释:

  1. 它发现了大脑本身使用的通用学习算法;
  2. 它借助人类已经完成的抽象,把心智功能从文本痕迹中复制出来。

Levine 倾向第二种至少解释了很大部分。LLM 像一种“不经意的脑扫描器”,而非证明所有智能都可从任意模态的下一步预测自然涌现。

2. 这解释了视频模型与语言模型的能力差距

若预测目标本身足以产生一般智能,海量 next-frame prediction 本应较早得到强物理推理模型。现实是视频生成在视觉真实度上突飞猛进,却长期不如语言模型处理抽象问题。

语言的优势不一定在 token 比像素神秘,而在数据已由人类心智完成:

  • 语义选择;
  • 因果压缩;
  • 离散化;
  • 目标导向;
  • 社会筛选;
  • 跨时间叙述。

这与 Fei-Fei Li / LeCun “物理世界含更多信息”并不矛盾。更多原始信息也意味着更难知道什么值得保留。

3. 洞穴模型的上限:它只能复制人类留下影子的部分

文本中没有被人类表达的感知细节、身体技能和未知科学规律,LLM 无法仅靠模仿获得。更重要的是,它不能主动决定下一次实验看什么。

所以 Levine 的结论不是抛弃 LLM,而是:

先把这个极强的人类心智原型带出洞穴,再给它行动、感知和从真实后果学习的机制。

这解释了 Physical Intelligence 为什么从 VLM 起步而非从零训练机器人:LLM 的“影子知识”太宝贵;但如果永远只在影子上微调,就得不到人类最关键的能力——从直接经验快速形成全新表示和技能。


九、他们的完整学习观:五种数据不是同质燃料

1. 互联网图文

提供对象、语言、常识和人类认知压缩。优点是规模巨大;缺点是缺少低层动作与真实后果。

2. 跨机器人轨迹

提供接触、控制和动作结果,让模型发现不同本体背后的物理共性。缺点是接口异构、成本高、分布偏。

3. 人类示范

高效定义“想要什么行为”,把策略送到安全合理区域。缺点是示范者不最优、恢复少、难覆盖失败状态。

4. 离线失败与质量数据

允许价值学习比较轨迹,组合不同片段。缺点是数据外动作价值不可靠,必须保守。

5. 部署期自主经验

直接覆盖模型自己的错误分布,改善精度和恢复。缺点是安全、样本成本、持续学习和 reward specification。

他们真正的押注是,这五层能形成飞轮,而非某一种数据单独取胜。


十、与 Sutton、Chollet 和 LeCun 放在一起看

与 Sutton / Silver

共同点:

  • 行动后果与自主经验是越过人类示范的关键;
  • RL 不只是偏好微调,而是长期结果优化;
  • 世界模型、记忆和时间抽象都会回归。

差异:

  • Sutton / Silver 更愿意把奖励放在统一理论中心;
  • Levine / Finn 更强调人类示范、预训练和离线数据作为必要脚手架;
  • 机器人现实使他们对纯自主探索更保守;
  • 其模型是高度混合的工程系统,不要求一套 RL 认识论解释全部表征。

与 Chollet

Finn 的元学习与 Chollet 的技能获取效率高度契合:好模型应在新任务上用少量数据适应。

但 Physical Intelligence 当前更多报告任务成功与跨场景能力,尚缺类似 Chollet 的严格“新任务经验—性能曲线”。所谓 compositional generalization 必须确认具体任务及其原语真的未进入训练。

与 LeCun

共同点:

  • 纯文本不够;
  • 物理智能需要行动、世界状态和长期规划;
  • 逐像素预测可能浪费容量;
  • 高低层时间尺度必须分开。

核心差异:

  • LeCun 希望先找到原则上正确的非生成式潜变量预测目标;
  • Levine / Finn 愿意使用 VLM、自回归高层、flow matching 动作专家、behavior cloning、offline/online RL 的混合;
  • LeCun 更怀疑现有 LLM 栈能否成为核心;Levine 把它看作非常强的人类心智原型,应被保留并接地;
  • π0.7 甚至使用轻量生成 world model 产生视觉子目标,体现工程实用主义。

一句话概括:LeCun 想重新设计认知发动机;Levine / Finn 想先把现有强发动机接上传动、反馈和真实道路,再从失败中换部件。


十一、判断履历:哪些已命中,哪些仍在演示阶段

已被较强验证

1. 预训练 + 少量适应优于每个机器人任务从零训练

跨任务、跨本体预训练显著降低新任务数据需求;这已由多家机器人团队和 OpenPI 实验支持。

2. 行为克隆与 RL 扮演不同角色

示范适合进入正确分布,价值/在线经验适合提高长期成功、速度和恢复。π*0.6 与大量 offline RL 工作支持这一分工。

3. 大模型语义先验对机器人有实质价值

π0 完整 VLM 版本相对无 web 预训练小模型显著更强;π0.5 消融也显示 web data 有助开放世界理解。

4. 长任务需要显式状态与记忆

单帧/短窗口反应策略会重复和遗忘;多尺度记忆实验给出直接证据。

有初步证据,但宣传容易跑得比结果快

1. 跨本体共享

模型确实能从不同机器人数据获益,但“共享了统一物理概念”与“分别记住多个动作接口”仍难分离。

2. 组合泛化

π0.7 显示未专门示范任务的合理执行,但部分例子没有完成。需要秘密任务、训练数据审计和独立复现。

3. 从自主经验持续变强

在少量专门任务上成立;长期、跨任务、不中断的参数更新仍未展示。

尚未兑现的强版本

  • 像 LLM 一样“一套模型控制任意机器人、完成任意自然语言任务”;
  • 机器人经验规模化后产生与 LLM 类似的认知涌现;
  • 少量真实数据即可适配结构完全不同的新本体;
  • 家庭环境中的成功扩展到工业、户外、医疗等高风险场景;
  • 在线学习在普通用户环境安全发生且不破坏旧技能。

十二、这条路线最强的洞见和最深的困难

最强洞见:LLM 的能力不是应被否定的假象,而是一份不完整但极昂贵的心智先验

许多“LLM 之后”路线容易在两极摇摆:

  • 认为语言模型已经包含一切,只差更多规模;
  • 认为语言模型只是鹦鹉,应从物理世界重新开始。

Levine / Finn 的位置更有建设性:语言模型确实复制了人类认知的大量影子,因此是最好的启动点;它没有学会产生这些认知的直接经验算法,所以必须在行动中补课。

最深困难:具身数据没有互联网那样自然统一的接口

文本都有 token;机器人有:

  • 不同关节和控制频率;
  • 不同相机和传感器;
  • 不同安全限制;
  • 不同任务定义;
  • 不同遥操作质量;
  • 不同重置机制;
  • 不同成功判据。

π0.7 用多模态 prompt 把异质性条件化,是重要进展,但统一接口仍由人工设计。若每个新本体仍需大量工程,所谓“物理智能层”就难形成软件生态式飞轮。

另一深层困难:真实世界没有干净的反事实

一条轨迹失败,未必知道哪一步导致;布料折错可能来自抓取、感知、材料或此前隐藏状态。Offline RL 需要覆盖,world model 需要状态,在线探索又昂贵。机器人是检验“经验时代”最诚实的领域,因为所有干净假设都会在接触和噪声中暴露。


十三、未来几年真正值得盯的指标

  1. 完整任务成功率,而非技能片段。 十步任务每步 90% 可靠,整条仅约 35%;必须按无干预完成计分。
  2. 恢复能力。 物体掉落、抓空、用户中途移动环境后能否重规划。
  3. 新本体适配曲线。 达到指定成功率需多少小时数据、多少人工工程和多少在线试验。
  4. 训练数据新颖性审计。 “未见任务”是没见完整标签,还是其对象、动作和子技能都已密集覆盖。
  5. 跨天记忆。 环境变化后能否更新对象状态,而不是固守旧记忆。
  6. 在线更新的隔离与回滚。 新经验如何进入参数,出现退化时能否定位和撤销。
  7. 独立复现。 OpenPI 在第三方硬件上的实际数据成本与成功率。
  8. 现实成本。 机器人小时、人工遥操作、重置、损耗和推理延迟是否随能力下降。
  9. 高层认知落地。 语言模型提出新计划后,视觉子目标和动作执行是否能闭环修正,而非只生成漂亮解释。

十四、带着问题读原始材料

  1. Levine 的博士论文:Guided Policy Search
    重点看“有特权老师 → 快速神经策略”的结构,它怎样在 π 系列中以新形式反复出现。

  2. Levine 等早期端到端视觉控制工作
    问知觉表示为何需要由控制目标塑形。

  3. Finn 等,MAML
    不只记住“少样本”;理解外层目标为何在优化模型的可学习性。

  4. Finn 的博士论文
    看视觉预测、元学习和 one-shot imitation 怎样串成“从少量经验获得行为”。

  5. Conservative Q-Learning
    理解离线数据为何会让价值函数对没见过的动作产生危险乐观。

  6. Levine,Offline RL and Large Language Models
    这篇 2022 年文章清楚区分“模仿人类文本”与“为长期目标选择语言行动”。

  7. Levine,Language Models in Plato’s Cave
    重点看他如何用早期视频预测的失败解释 LLM 成功,而非只看具身结论。

  8. Physical Intelligence:π0OpenPIπ0.5π*0.6Memoryπ0.7
    每一代只问一个问题:这次解决的是低层动作、场景泛化、结果优化、任务状态,还是组合指令?不要把所有改善统称为“更智能”。

最后的判断

Levine 与 Finn 最值得关注之处,不是他们更早喊出“embodied AI”,而是他们有一套相当成熟的学习分工观

  • 优化器或人类示范先给出可行方向;
  • 大模型把跨任务结构压成快速策略;
  • 元学习让策略容易被少量新数据改变;
  • 离线 RL 从不完美日志中识别长期价值;
  • 在线经验覆盖模型自己的失败;
  • 记忆和高层子目标把单项技能组织成长任务。

它不像 LeCun 的路线那样有一个单一、优雅的认知架构,也不像 Sutton 的“reward is enough”那样有统一原则。它的优势恰恰是承认不同数据和算法承担不同职责。

这条路线最终成败取决于一个非常具体的问题:机器人世界的异质经验,能否像互联网文本一样形成共享且自我增强的数据飞轮。 如果能,Physical Intelligence 的基础策略可能成为 LLM 之后最重要的新模型类别;如果不能,漂亮的跨家庭演示仍可能被困在昂贵采集、人工重置和每台硬件重新适配的经济边界里。

END · 04

不要问“该信谁”,要问:什么证据会迫使这条路线再次转向?

回到路线地图 →