语言模型擅长回答“应该做什么”,机器人还必须解决“现在能不能做、怎样做、做完之后世界会变成什么样”。具身智能真正的技术跃迁,不是给聊天模型接上一双机械手,而是把语义理解、空间感知、动作控制、结果预测和安全约束放进同一个持续闭环。
一、为什么“会说”不等于“会做”
文本世界允许模型一次生成整段答案,物理世界却要求它在每个时间步重新观察。杯子可能滑动,抽屉可能卡住,人可能突然伸手,摄像头也可能被遮挡。一个语言上完全合理的计划,仍可能因为距离、摩擦、受力、关节极限或视野盲区而失败。
因此,具身系统至少需要五种彼此耦合的能力:
- 感知:从相机、深度、触觉和本体传感器判断当前状态。
- 语义:理解指令、物体用途、上下文规则和任务目标。
- 动作:把目标转成机器人能够连续执行的关节或末端控制。
- 预测:估计不同动作将怎样改变环境,并比较候选结果。
- 闭环与安全:发现偏差、判断任务是否完成,并在危险前停下。
二、第一步跃迁:从 LLM 到 VLA
早期做法通常让语言模型负责高层规划,再调用预先定义的技能库。它能把“收拾桌面”拆成“识别垃圾、抓取、放入垃圾桶”,但技能边界和真实可行性仍由外部系统兜底。
视觉语言动作模型(Vision-Language-Action,VLA)把动作也视为一种输出模态。Google DeepMind 的 RT-2 将网络视觉语言知识与机器人示范共同训练,并把机器人动作编码成可预测的 token;这使模型不仅能识别新物体,还能把部分语义知识迁移到真实控制。之后的 Gemini Robotics 系列继续把视觉、语言和动作放入统一模型,并使用单独的具身推理层处理空间理解、规划和工具调用。
这条路线的重要意义是:机器人不再只执行工程师事先写好的固定动作名称,而可以从视觉和语言上下文中直接产生控制。但 VLA 仍可能更像一种强大的“条件反射”——看到当前观察后预测动作,并不必然显式模拟几步之后会发生什么。
三、第二步跃迁:世界模型让机器人先想后做
世界模型可以被理解为智能体内部的可学习模拟器。它不一定生成逼真的视频;更关键的是,它要保留对决策有用的状态,并预测如果执行某个动作,未来状态会如何变化。
Meta 的 V-JEPA 2 展示了两阶段路线:先从大规模视频中自监督学习运动和物体交互,再用少量带动作的机器人视频进行动作条件训练。模型随后可以在潜在表示空间中比较候选动作,用模型预测控制反复规划。官方报告同时提醒我们,当前模型在反事实和物理因果理解上仍明显落后于人类。
另一类世界模型侧重生成可交互环境。Google DeepMind 的 Genie 系列从视频学习动态世界:Genie 2 用于生成可控制的 3D 环境,Genie 3 又提高到实时交互、720p 和数分钟一致性。这类模型未必直接控制真实机械臂,却能扩充训练与评测环境,让智能体在低风险的“想象世界”里经历更多状态。
| 模型层 | 主要回答 | 优势 | 典型缺口 |
|---|---|---|---|
| LLM / 多模态模型 | 目标是什么意思?应该分几步? | 知识广、能沟通、善于任务分解 | 可能忽视真实几何、动力学和时延 |
| VLA | 看到这些画面和指令,下一段动作是什么? | 语义到动作端到端迁移 | 长时程误差积累,跨机器人适配成本高 |
| 世界模型 | 如果做这个动作,世界接下来会怎样? | 预测、比较、规划和合成训练环境 | 物理一致性、实时性与不确定性仍有限 |
| 安全控制器 | 这个动作是否允许执行? | 确定性约束、碰撞和力限制 | 覆盖不了全部开放世界语义风险 |
四、真正可用的架构不是单一“大模型”
当前更现实的系统是分层协作,而不是让一个模型包办一切。高层具身推理模型理解任务、调用工具并监控进度;VLA 或专用策略执行动作;世界模型评估候选后果;传统控制器负责高频稳定和硬安全。
NVIDIA 的 GR00T N1 采用视觉语言模块与扩散式动作模块的组合,并混合人类第一视角视频、真实机器人轨迹、仿真与合成数据。Physical Intelligence 的 π0 则把预训练和任务后训练类比为语言模型的基础训练与专项微调,展示了整理衣物、收拾餐桌和组装纸箱等需要持续视觉反馈的任务。这些结果都说明,机器人泛化不仅依赖模型尺寸,更依赖多样数据、动作表示、闭环控制和可靠的后训练。
五、2026 年值得关注的变化
- 推理层和动作层开始解耦。具身推理模型负责空间判断、成功检测和工具使用,动作模型负责高速执行,便于不同机器人复用同一高层能力。
- 世界模型从“生成视频”走向“服务决策”。评价重点逐渐从画面好不好看,转向预测是否物理合理、能否提高任务成功率。
- 互联网视频成为物理知识来源。大量无动作视频负责学习运动先验,再用较少机器人数据将预测与可执行动作连接。
- 合成数据进入闭环。世界基础模型可以生成轨迹和场景,缓解真实机器人采集昂贵、危险和覆盖不足的问题。
- 成功检测成为核心能力。机器人必须知道任务是否完成、是否需要重试;这比仅生成下一步动作更接近长期自治。
六、还没有解决的五个硬问题
- 长时程一致性:一次抓取成功不代表能稳定完成几十步家务,预测误差会不断累积。
- 数据与具身差异:不同机械臂、相机位置、夹爪和控制频率会改变动作含义。
- 实时性:模型需要在物体和人持续移动时快速重规划,云端长推理无法替代本地安全控制。
- 可验证安全:语义安全、力控制、碰撞约束和故障恢复必须分层保护,不能只依赖模型“理解了”。
- 评测可信度:演示视频容易挑选成功案例,真实价值要看盲测、失败率、恢复能力和跨环境复现。
七、结论:不是从文字直接跳到机器人
具身智能的演进更像一座逐层搭建的桥:语言模型提供语义和知识,VLA 把语义接到动作,世界模型补上预测与规划,传统机器人控制和安全工程则把系统留在物理边界之内。
真正的分水岭不是机器人能否在演示中完成一次任务,而是它能否在陌生环境里观察、行动、发现失败、重新规划,并在不确定时安全停下。当模型学会的不只是“下一步怎么动”,而是“这个世界怎样因我的动作而改变”,AI 才算真正开始拥有身体。