AI思想图谱Research trajectories
视觉与空间智能21 分钟
05

视觉与空间智能 · RESEARCH TRAJECTORY

李飞飞(Fei-Fei Li):从“让机器认出名词”到“让机器拥有一个可行动的三维世界”

导读

从 ImageNet 与 Visual Genome 走向可编辑、可模拟、可行动的三维世界模型。

李飞飞的研究常被压缩成一句“她做了 ImageNet”。但真正贯穿二十多年的问题并不是分类精度,而是:视觉智能究竟需要什么样的经验、表征和世界结构?ImageNet 是用大规模、有组织的人类经验解决“看见什么”;Visual Genome 把问题推进到“对象怎样组成场景”;今天的 World Labs 则继续追问“这个场景能否保持、被编辑、被模拟,并承受行动的后果”。

一、先把她的主线说清:规模从来只是手段,世界结构才是目标

如果只看历史影响,李飞飞很容易被归入“数据规模派”:ImageNet 提供海量标注图像,AlexNet 借此引爆深度学习,结论仿佛是“更多数据 + 更大网络即可”。

这其实遗漏了 ImageNet 更深的设计,也解释不了她为什么后来从分类转向关系、行为、具身和三维世界。

更准确的主线是:

  1. 视觉知识必须以真实世界的多样性为训练底座。 几百或几千张精心摆拍图片无法逼出一般视觉表征。
  2. 数据不是无结构的原料。 ImageNet 用 WordNet 的概念层级组织图像,数据集同时是一份关于“世界由哪些可命名类别组成”的假说。
  3. 对象标签远不是场景理解。 看见“人、杯子、桌子”不等于理解“人正伸手拿杯子,杯子被桌面支撑”。
  4. 语言能概括世界,却不能替代空间本身。 一个模型可以熟练谈论房间,却仍不知道遮挡后物体是否持续存在、相机移动后几何怎样变化、推杯子会发生什么。
  5. 空间智能最终必须闭合感知—建模—模拟—行动回路。 逼真的像素只是观察;可计算的几何与动力学才是状态;规划还要把目标转成行动。

所以她今天强调 spatial intelligence,并不是在 LLM 热潮后另找赛道,而是把早期视觉研究中被二维分类暂时压缩掉的问题重新展开。


二、ImageNet 之前:视觉识别为什么不能只在小数据集上做算法比赛

1. 早期计算机视觉的默认世界非常小

2000 年代前期,许多视觉数据集只有少量类别,每类样本也有限。研究者可以在固定任务上设计特征、调分类器,再用几个百分点的提升证明方法有效。

问题是,这种实验装置把真实世界最困难的部分拿掉了:

  • 同一物体有无穷视角、姿态和光照;
  • 类内差异可能大于类间差异;
  • 背景和共现关系会制造捷径;
  • 稀有类别与长尾无法被小样本覆盖;
  • 标签体系本身决定模型被要求看见什么。

小数据集上的高分可能只说明算法适配了一个狭窄的摄影与类别分布,并不说明它获得了可迁移的视觉概念。

李飞飞早期关于场景、对象和人类视觉的工作,使她没有把视觉简单理解成局部纹理匹配。人类能在极短时间把一个场景组织成有意义的整体,也会利用对象与环境的上下文。这使“覆盖世界的广度”成为算法问题,而不只是数据管理问题。

2. ImageNet 的激进之处,是先改研究对象,再等算法追上来

2009 年 ImageNet 论文的目标并非只做一个更大的训练集。它希望沿 WordNet 的名词同义词集建立大规模视觉本体:当时版本已含 5,247 个 synset、320 万张经人工清洗的图像,远景则是覆盖大部分 WordNet 名词概念。

这里包含三项判断。

第一,尺度会改变问题性质。 当类别从几十增至上千,算法不能再依赖为每类定制的特征;模型必须共享统计结构。

第二,语义组织与样本数量同样重要。 “哈士奇—狗—哺乳动物”不是三个互不相干的标签,而是层级关系。ImageNet 不只堆图,还把图像挂在一份概念树上。

第三,人类劳动可以成为机器学习系统的一部分。 搜索引擎提供候选图,Mechanical Turk 承担规模化过滤;数据采集协议、质量控制和类别选择共同构成训练基础设施。

这是一种今天看来很熟悉、当时并不主流的系统观:算法的能力上限由数据分布和评价装置共同塑造。

3. ILSVRC 把数据集变成了一个连续的选择压力

单次发布数据不会自动推动领域。ImageNet Large Scale Visual Recognition Challenge 把它变成年度、可复现、有共同测试集的竞争环境。ILSVRC 总结论文详细记录了类别选择、搜索、多语言查询、众包过滤、分类与检测任务,以及机器与人类准确率比较。

这套装置造成一个常被忽略的反馈回路:

  1. 统一数据让不同模型可直接比较;
  2. 统一指标让硬件和软件投资有明确回报;
  3. 参赛系统的错误又暴露数据和标注问题;
  4. 年度比赛形成社区记忆和工程积累;
  5. 一次架构突破能迅速被整个领域确认和复用。

AlexNet 的意义因此不只是卷积网络突然变好。GPU、ReLU、数据增强、正则化和 ImageNet 的规模在一个公开评价装置中会合,证明学习特征可以击败长期手工特征路线。

李飞飞最命中的判断不是“某个 CNN 会赢”,而是:如果先建出足够大、足够难、可持续比较的经验世界,算法突破会被它吸引并放大。


三、ImageNet 同时成功地制造了一个瓶颈:会说名词,不等于会看世界

1. 分类任务把场景压成了一个标签

ImageNet 的训练信号通常回答:“这张图中最重要的对象属于哪个类别?”这种压缩在工程上极其有效,却牺牲了大量结构:

  • 一个场景里有多个对象;
  • 对象有属性、部件和姿态;
  • 对象之间有支撑、包含、遮挡、接触和社会关系;
  • 事件有时间顺序与意图;
  • 相机只提供三维世界的一个投影;
  • 同一标签下的物体可以具有完全不同的可供性。

网络若能借背景纹理认出类别,损失函数不会要求它区分“认识对象”与“利用捷径”。一张水面上的鸟被分成“鸭”可能正确,但模型未必建立了鸟的几何、部件或运动模型。

因此 ImageNet 的胜利既证明大数据可以逼出通用特征,也暴露了 benchmark 的权力:模型会成为评价函数允许它成为的东西。

2. 本体不是中性的:WordNet 的名词世界并非视觉世界本身

ImageNet 借 WordNet 获得了可扩展层级,但也继承了语言本体的限制。

  • WordNet 主要按可命名名词组织,而视觉世界还包含材质、空间、动作和连续状态;
  • 类别边界由语言文化划定,不一定对应视觉上的自然簇;
  • 搜索引擎候选图带有摄影和网络分布偏差;
  • 单标签会弱化场景中次要但因果重要的对象;
  • 大规模人工标注可能把社会偏见固化进数据。

这些并不抹杀 ImageNet 的贡献,反而揭示李飞飞路线中的下一步为何必要:如果第一阶段把世界组织成类别,第二阶段必须让类别重新进入场景和关系。


四、从对象到场景:Visual Genome 是对 ImageNet 成功的内部修正

1. 场景图试图表示“有什么,以及它们如何相连”

Visual Genome为图像增加密集区域描述、对象、属性、关系、问答与 scene graph。

一幅图不再只对应“狗”,而可以表示:

  • 狗是棕色的;
  • 狗站在草地上;
  • 人牵着狗;
  • 绳子连接人的手和狗的项圈;
  • 某个对象被另一个对象遮挡。

场景图的重要性在于把视觉从类别判别推向组合表征。对象可在不同场景复用,关系也可绑定到新对象;“A 在 B 上方”不应只在见过的具体名词组合中成立。

2. 这一步与后来多模态模型有什么连续性

李飞飞与 Karpathy 的图像—语言对齐和描述工作让图像区域与句子片段进入共同空间。其核心问题已接近今天视觉语言模型:

  • 哪个词组指向哪个区域;
  • 一句描述怎样选择场景中重要关系;
  • 语言监督能否提供比封闭标签更丰富的概念;
  • 视觉与文本怎样共享表示而不互相抹平。

今天的多模态 LLM 极大扩展了这种接口:它们能问答、描述、定位、生成。但“图像能被语言谈论”仍不等于“模型拥有场景状态”。语言擅长语义压缩,却可能把精确几何、尺度、遮挡与动力学变成模糊叙述。

3. 场景图也不是终点

显式 scene graph 有自己的瓶颈:

  • 标注昂贵且关系词表受限;
  • 离散三元组难表达连续几何;
  • 静态图像缺少动力学和行动后果;
  • 对象边界与层级可能随任务变化;
  • 人写下的关系只是可见结构的一小部分。

这使路线继续向视频、行为和具身推进。真正的场景理解不只是得到一张图,而是能在相机移动和对象变化时保持身份,预测下一状态,并知道行动能改变什么。


五、从“看图”到“人在做什么”:视觉必须接入行为、意图和具身任务

李飞飞团队后续长期研究活动识别、视频理解、视觉问答、机器人与人与 AI 的交互。单篇论文各不相同,但共同压力是:静态对象分类无法支撑现实行动。

一个机器人看到“杯子”时,需要的不只是名词概率。它还需要知道:

  • 杯子的三维位置和朝向;
  • 哪一部分可以抓;
  • 它是否被其他物体挡住;
  • 材质是否易碎、是否可能装有液体;
  • 抓取后桌面、液体和其他对象怎样变化;
  • 人类当前是否准备使用它。

这些变量不是把标签词表扩大就自然得到。它们要求对象持久性、空间坐标、可供性、动力学、社会语境和闭环反馈。

这也解释她对 human-centered AI 的重视。现实视觉系统不是在抽象测试集里独立存在:训练数据由人生产,错误落在具体群体身上,部署目标由机构设定。技术上,人在环并非与“纯智能”无关,而是系统实际信息流和评价函数的一部分。

不过,human-centered AI 是她更广的制度路线。若只讨论技术前瞻,最重要的转折仍是:智能必须从二维语义走向可保持、可模拟、可行动的空间。


六、LLM 时代的诊断:语言是关于世界的压缩,不是世界本身

1. 为什么 LLM 的成功反而凸显空间缺口

大模型证明自然语言包含惊人的世界知识。模型从文字中学会对象常识、程序、科学概念和社会关系,并能在上下文中组合它们。

李飞飞并不否认这项成功。她的判断是:文字是一种高度选择性的投影。人只会写下值得说的部分,而日常物理中绝大多数连续细节从未被记录。

文本通常不会逐帧说明:

  • 走到桌子背后时桌腿怎样相对移动;
  • 盒子被挡住后仍占据哪个体积;
  • 柔软物体受力后怎样形变;
  • 一个动作在数百毫秒后的接触结果;
  • 房间各物体之间的公制距离。

《From Words to Worlds》把这种差异概括为空间智能的缺位:语言模型可以熟练处理抽象知识,却难以稳定表示和操作物理或虚拟世界。

最强版本的命题不是“语言模型什么也不懂”,而是:

语言能提供强大的语义先验,但一个需要在三维世界中长期行动的系统,必须拥有比语言描述更高带宽、更可计算的空间状态。

2. “世界不是由词组成”并不等于抛弃语言

世界模型仍需要语言,因为语言可表达目标、概念、限制和人类偏好。更可能的分工是:

  • 语言指定“建一间适合轮椅通行的厨房”;
  • 空间模型生成可导航几何;
  • 模拟器检查碰撞、尺度和物理;
  • 规划器寻找动作或设计修改;
  • 视觉渲染让人检查结果;
  • 语言再解释、比较与迭代。

语言是控制与沟通层,空间表示是执行与约束层。二者不是替代关系。


七、World Labs 的技术路线:先把“世界模型”这个词拆开

“世界模型”现在可以指视频生成器、机器人策略、物理引擎、潜在动力学模型或三维生成系统。如果不区分功能,讨论很容易把视觉逼真误当成因果理解。

World Labs 在 2026 年的功能分类把它拆成三类。

1. Renderer:输出观察

renderer 的合同是:给定条件,生成一个观察者会看见的像素。

它可以非常逼真,却未必显式表示:

  • 物体真实几何;
  • 材质和质量;
  • 碰撞体;
  • 速度与力;
  • 可供程序查询的状态。

视频生成器和实时交互画面模型首先属于这一类。其评价核心是视觉一致性、交互延迟和长时间持久性。

2. Simulator:输出状态及其转移

simulator 的合同更严格:它必须提供可计算的几何、物理或动力学状态,让人或代理能够施加行动并得到可靠后果。

一把椅子从某角度看起来正确还不够:

  • 网格是否封闭;
  • 尺寸是否合理;
  • 碰撞体是否匹配;
  • 重心和材料是否可信;
  • 受力后是否按预期运动;
  • 从未见视角检查是否仍一致。

simulation 是李飞飞当前判断中最关键、也最未成熟的一环。漂亮视频已有市场,机器人 planner 也有快速进展;连接二者的可验证状态却稀缺。

3. Planner:输出行动

planner 接收观察、状态或目标,选择下一行动。视觉—语言—行动模型属于这一类。

它可以在没有完整显式模拟器时反应式行动,但长程可靠性会受限于:

  • 是否理解隐藏状态;
  • 是否能比较反事实;
  • 是否知道动作失败后的新状态;
  • 是否能区分视觉相似与物理等价。

分类的价值是防止概念偷换:一个 renderer 的演示不能直接证明它是 simulator;一个短时实验室 planner 也不能证明它已掌握开放世界。


八、RTFM:不用显式网格,也可以先学会持久的空间记忆

RTFM是一个很能体现 World Labs 取舍的项目。它在单张 H100 上实时生成交互画面,不要求模型显式输出完整三维网格,而把带相机位姿的历史帧作为空间记忆。

1. 它解决的不是一般物理,而是三个更具体的问题

效率。 交互世界必须在用户移动时实时生成,不能像离线视频模型一样等待数十秒。

持久性。 用户转身再回来,墙、门和物体不能随机消失或重排。

可扩展记忆。 交互时间越长,若把所有旧帧塞进不断增长的上下文,成本会失控。

RTFM 通过相机位姿给帧一个三维索引;生成某处的新视图时,检索空间上邻近的旧帧组成上下文。团队称之为 context juggling。

2. 这里隐含了一个温和但重要的几何先验

系统没有被强迫预测显式三维几何,但被告知世界大致处于三维欧氏空间,相机有位置和方向。这不是纯粹“数据自己发现一切”,也不是手写完整渲染器,而是在两者之间加入弱结构先验。

这个选择与李飞飞长期风格一致:

  • ImageNet 用 WordNet 给视觉数据一个语义骨架;
  • RTFM 用相机位姿给视频记忆一个空间骨架;
  • 数据负责学习难以手写的外观和复杂效应;
  • 人提供少量稳定结构,使学习问题可解。

3. 它的能力边界必须说清

持久视图不等于物理状态。RTFM 可以在不同视角保持外观,也可能学习反射和阴影,但这不能证明内部表征具有准确碰撞、质量或因果动力学。

它首先是一个高效、可持续查询的 learned renderer。把它叫“世界模型”可以,但必须保留功能限定。


九、Marble 与“3D as code”:三维世界正在从媒体变成可操作接口

Marble从文本、图像、视频或粗三维布局生成可探索世界,并可输出 Gaussian splats、mesh 或视频。它把单次画面生成推进到可编辑、可扩展、可导出的空间资产。

1. 为什么显式三维比逐帧视频更像“源码”

“3D as code”的类比是:

  • 代码是程序行为的可编辑源表示;
  • 执行代码可产生许多具体输出;
  • 三维场景是不同相机、光照、动画和交互画面的共同源表示;
  • 改一次对象位置,所有视角应一起改变。

如果每一帧都由生成模型独立重画,跨视角一致性和精确编辑很难保证。若存在共享的三维表示,画面就像运行结果,而不是互不相干的图片。

这个判断的技术含义比“3D 内容会流行”更深:

  • 空间状态可以被机器查询;
  • 编辑可以组合、版本化和传播;
  • 模拟器与 planner 有共同接口;
  • 人和模型可以在同一世界对象上协作;
  • 生成不再是终端媒体,而是下游计算的输入。

2. Marble 仍只跨过了边界的一部分

Gaussian splat 擅长新视角渲染,collision mesh 可供物理引擎使用。但视觉表面与可靠模拟之间仍有大距离:

  • mesh 可能看似合理却拓扑错误;
  • 尺度、材质和质量未必有依据;
  • 刚体碰撞容易,布料、流体和破坏困难;
  • 静态重建不等于动作条件下的动态;
  • 一个可走动场景未必能训练现实机器人。

World Labs 自己把 Marble 描述为向模拟迈出的第一步,而非统一世界模型已经完成。


十、2026 年转向机器人:世界生成必须接受“行动后果”的检验

World Labs 2026 年并入 SceniX,并提出 real-to-sim-to-real 的机器人训练回路。相关说明把机器人定义为空间智能变成物理能力的地方:系统必须感知、理解对象互动、预测动作后果并可靠行动。

这一步很关键,因为机器人会惩罚仅靠视觉合理性的模型。

一个生成世界可以骗过人眼,但机器人策略会暴露:

  • 碰撞体与外观不一致;
  • 摩擦和质量错误;
  • 关节自由度不正确;
  • 视角变化造成对象身份漂移;
  • sim 中成功的策略无法迁移到现实。

real-to-sim-to-real 的理想闭环是:

  1. 从现实数据重建或生成多样训练世界;
  2. 在模拟中大量探索和评价策略;
  3. 把策略部署到现实;
  4. 用现实失败修正生成、物理和策略;
  5. 再次扩大训练分布。

这与 Levine/Finn 的机器人数据闭环相接,也与 Sutton 的“经验时代”相接。区别是李飞飞路线更强调空间底座:在代理获得海量经验前,环境表示和模拟本身必须足够真实、可生成、可计算。


十一、她的世界观:智能首先是一种“在世界中保持结构”的能力

从 ImageNet 到 World Labs,可以抽出一套稳定的方法论。

1. 基础设施本身可以是一项研究贡献

ImageNet 不是论文附带数据;它重写了问题规模和社区激励。今天 World Labs 的世界 API、三维生成与模拟平台也遵循类似思路:先建一个足够通用的经验与创作底座,让研究和应用在其上累积。

2. 表征的单位不断升维

她的路线大致经历:

  • 像素与局部特征;
  • 对象类别;
  • 对象、属性与关系;
  • 事件与行为;
  • 持久三维场景;
  • 物理状态与行动后果。

每次升维都不是抛弃前一层,而是指出前一层压掉了什么。

3. 人类先验与大规模学习不是二选一

WordNet、相机位姿、三维欧氏空间和物理引擎都属于结构先验;海量图像和视频负责学习难以手写的视觉规律。她不属于“完全白板从数据涌现一切”的最强版本,也不主张手工建模全部世界。

4. 真正的多模态不是把不同输入都翻译成词

文本、图像、视频、三维草图和动作各保留不同结构。若所有模态最终只服务于一条语言回答,精确空间信息可能丢失。多模态系统应能在需要时输出像素、几何、状态或行动,而不只输出描述。


十二、她与 LeCun:目标相近,但“世界模型”的技术重心不同

李飞飞与 LeCun 的共同点非常强:

  • 都认为纯文本不是人类级智能的充分经验;
  • 都把物理世界、持久状态和行动放在中心;
  • 都反对把语言流畅等同于完整世界理解;
  • 都认为儿童/动物从视觉和互动中获得的信息远多于文字;
  • 都期待世界模型服务规划与具身智能。

差异主要有三处。

1. LeCun 更关注学习目标,李飞飞更关注空间表示与数据底座

LeCun 的 JEPA 路线问:模型应在何种潜空间预测,怎样忽略不可预测细节,怎样学分层抽象并用于规划。

李飞飞当前路线更问:

  • 世界应以何种三维形式存在;
  • 怎样从互联网视频和图像扩大训练;
  • 怎样实现持久、实时的新视角;
  • renderer、simulator 和 planner 怎样共享空间状态;
  • 怎样接入创作工具与机器人。

一个偏“认知学习内核”,一个偏“空间计算基座”。

2. LeCun 对像素生成更警惕,World Labs 主动从 renderer 切入

LeCun 常认为逐像素生成会浪费容量在不可预测细节上,世界模型应预测抽象潜变量。

World Labs 则认为高质量 renderer 是有价值且可扩展的入口,因为互联网视频丰富、视觉内容有直接产品价值,也可逐步连接显式三维和模拟。

两者并非绝对冲突:RTFM 内部同样使用隐式表示;Marble 又输出结构化三维。但路线风险不同。LeCun 可能低估像素生成带来的可用空间先验;World Labs 可能高估视觉一致性向物理因果迁移的自然程度。

3. 李飞飞更愿意把显式几何当作跨系统接口

JEPA 可以让规划发生在任务相关潜空间;World Labs 的“3D as code”更强调人、渲染器、物理引擎和机器人都可操作的外显空间资产。

潜表示可能更高效,显式三维则更易检查、编辑和接入现有工业工具。最可能的系统会同时拥有两者。


十三、判断记录:哪些已经被历史验证,哪些仍只是强假说

A. “数据集与 benchmark 可以决定一个领域的算法方向”

结论:强力命中。

ImageNet 不仅提高了分类精度,而是为深层网络、GPU 训练、迁移学习和视觉产业建立共同试验场。后来语言模型的 web-scale pretraining、代码数据、RL 环境和 agent benchmark 都重演了“经验基础设施改变算法”的逻辑。

但副作用也同样被验证:benchmark 会诱导捷径、过拟合和标签本体固化。

B. “规模化真实图像会产生比手写视觉特征更通用的表示”

结论:命中。

从 AlexNet 到视觉 foundation model,学习表示全面替代传统人工特征。ImageNet 预训练长期成为下游视觉任务的默认起点。

需要修正的是:带标签分类并非唯一或最终训练目标。对比学习、自监督、图文配对和生成学习后来减少了对封闭标签的依赖。

C. “对象分类之后,关系、语言和场景结构会成为下一层”

结论:方向命中,具体表示未定。

视觉语言模型与多模态助手证明关系和语言监督的重要性。但显式 scene graph 没有成为所有系统的统一中间表示;大模型常把关系隐式编码在向量和注意力中。

D. “LLM 之后的关键前沿是空间智能”

结论:高度合理,仍待决定性检验。

视频世界模型、三维生成、机器人 foundation model、自动驾驶模拟和具身代理都向这一方向汇聚。尚未证明的是:空间智能会形成一条独立于语言模型的核心架构,还是被更一般的多模态序列模型逐步吸收。

E. “renderer、simulator、planner 最终能汇成统一世界模型”

结论:清晰研究纲领,未兑现。

三者共享部分知识,但训练目标有冲突:

  • renderer 奖励视觉 plausibility;
  • simulator 奖励结构和物理精度;
  • planner 奖励完成目标的行动;
  • 稀有但安全关键的物理现象在视频中可能很少;
  • 为生成丰富世界保留的细节,对某个策略可能是噪声。

统一模型是否胜过模块化系统,不能靠概念上的“知识相同”直接推出。


十四、她最强的论证与最弱的外推

最强论证:语言无法替代可计算的空间状态

这是她今天最值得重视的判断。

一个系统若要长期在世界中行动,必须处理:

  • 对象在遮挡后的持续存在;
  • 视角变化下的身份和几何;
  • 距离、接触、支撑和可达性;
  • 动作条件下的反事实后果;
  • 可供外部工具验证和编辑的状态。

语言可以描述这些变量,却不能保证逐时刻、逐对象地准确维护它们。要么模型内部形成等价的空间状态,要么把任务交给显式三维与物理工具;仅靠漂亮叙述不够。

最弱外推:从视觉持久性自然走向物理与因果

视频模型可能在人眼上极其一致,却依旧学到“看起来会怎样”,而不是“在干预下必然怎样”。训练分布中的摄影规律也可能替代真实动力学。

从 renderer 到 simulator 的跨越需要新的数据和评价:

  • 力、质量、材料和接触标注;
  • 主动干预而非被动视频;
  • 公制几何与传感器校准;
  • 长程对象身份;
  • sim-to-real 的闭环误差。

如果这些不能被解决,World Labs 可能成为卓越的三维内容平台,却未必成为通往通用具身智能的核心。


十五、怎样检验她的路线,而不是被演示视频说服

1. 几何与持久性

  • 绕场景一周后,对象位置和身份是否一致;
  • 遮挡数分钟后重新出现,属性是否保持;
  • 任意新视角的深度与相机位姿是否校准;
  • 大场景扩展时,局部正确是否以全局漂移为代价。

2. 物理与反事实

  • 对同一物体施加不同力,结果是否随材料和质量系统变化;
  • 不可能事件是否仅因视觉常见而被生成;
  • 多物体接触、布料、液体和破坏是否长期守恒;
  • 模型能否回答并执行“如果刚才没推杯子会怎样”。

3. 从模拟到行动

  • 在生成世界中训练的策略进入现实后需要多少适配数据;
  • 失败是否来自策略、感知,还是模拟器状态错误;
  • 多小时、跨房间任务是否仍保持地图与对象记忆;
  • planner 增加想象 rollout 后是否真实提高成功率,而不是积累模型误差。

4. 从内容工具到通用空间接口

  • 输出三维资产能否被 CAD、游戏引擎、机器人和物理工具共同使用;
  • 编辑是否具有精确局部性和全局一致性;
  • 同一世界可否在渲染、模拟和规划之间无损转换;
  • 生成模型是否公开可审计的结构指标,而不只做主观画质评测。

十六、按问题推进的原始材料阅读路径

第一阶段:理解 ImageNet 的真正设计

  1. ImageNet: A Large-Scale Hierarchical Image Database

    • 重点看 WordNet 层级、规模目标、候选图搜索和众包清洗;
    • 不要只记住“很多图片”。
  2. ImageNet Large Scale Visual Recognition Challenge

    • 看 benchmark 怎样把数据、指标、年度竞争和人类基线组合成研究基础设施;
    • 同时注意类别与标注选择如何塑造问题。

第二阶段:看她怎样越过单标签

  1. Deep Visual-Semantic Alignments for Generating Image Descriptions

    • 看图像区域与语言片段的弱监督对齐;
    • 理解封闭类别怎样被自然语言扩展。
  2. Visual Genome

    • 重点看对象、属性、关系和 scene graph;
    • 再思考显式图结构为何没有成为唯一主流表示。

第三阶段:理解她在 LLM 时代的诊断

  1. From Words to Worlds: Spatial Intelligence is AI’s Next Frontier
    • 这是她目前世界观最完整的公开表达;
    • 把“语言不是世界”读成表征论,不要读成对 LLM 能力的简单否定。

第四阶段:把“世界模型”拆成功能

  1. RTFM: A Real-Time Frame Model

    • 看 posed frames、spatial memory 与 context juggling;
    • 明确它首先解决 renderer 的效率与持久性。
  2. Marble: A Multimodal World Model

    • 看输入/输出模态、可编辑三维与 collision mesh;
    • 区分可探索场景和可信物理模拟。
  3. 3D as code

    • 理解三维表示为何可能成为人和代理共用的执行接口。
  4. A Functional Taxonomy of World Models

    • 重点掌握 renderer、simulator、planner 的合同差异;
    • 这是评价所有“世界模型”项目都可复用的概念工具。
  5. World Labs 与 SceniX

    • 用它观察路线是否真正从内容生成进入机器人闭环。

十七、最后的压缩:怎样长期跟踪李飞飞

不要只问她的新模型画面是否更漂亮。更有价值的五个问题是:

  1. 她是否再次通过数据和评价基础设施,改变整个领域的问题规模?
  2. 世界表示是否从视觉一致走向可计算、可验证的几何和动力学?
  3. 三维资产能否成为 renderer、simulator 和 planner 的共同接口?
  4. 模拟经验能否以低成本迁移到真实机器人,而非只生成演示?
  5. 语言模型与空间模型最终是松耦合工具链,还是共享一套可跨模态推理的状态?

李飞飞最值得关注的地方,不是她在 ImageNet 时代“押中了大数据”,而是她很早就懂得:你给机器什么样的经验世界、用什么结构组织它、又用什么任务逼它负责,最终会决定机器学成哪一种智能。

END · 05

不要问“该信谁”,要问:什么证据会迫使这条路线再次转向?

回到路线地图 →