具身智能研究：从仿真到实体的机器人学习路径

具身智能在 2023 到 2025 年经历了一轮明显的范式切换：从「仿真里练强化学习、再想办法搬到真机」的 Sim-to-Real 传统路线，转向「跨本体大规模真机数据 + 视觉-语言-动作大模型」的数据路线。Google DeepMind 的 RT-2、Physical Intelligence 的 π0、NVIDIA 的 GR00T 都押注后者。但无论路线怎么变，核心矛盾没有变：真机数据贵、慢、难以规模化，仿真便宜、快、但与物理世界存在系统性偏差。本文沿这条从仿真到实体的学习路径，梳理关键技术、代表论文与实测数据，并讨论尚未解决的开放问题。

一、数据经济学：为什么必须先在仿真里学

真机数据的采集成本有多高

机器人学习的第一性约束是数据获取速度。一个熟练操作员用双臂遥操作系统采集数据，一小时大约只能产出几十条成功轨迹；而训练一个稳健的操作策略，学界经验值是同一任务数百到上千条成功轨迹。Stanford 的 ALOHA 系统（Zhao et al.，ACT 论文，2023）给出了低成本遥操作的工程答案：用 3D 打印的从动臂（leader-follower 结构）做双臂遥操作，整套硬件成本压到 2 万美元以内，配套的 Action Chunking with Transformers（ACT）模仿学习算法把动作序列分块预测以缓解累积误差，在四个双臂精细任务上把成功率做到 80% 到 96%，而对照的 BC-Z、BC-RNN 等基线大多不到一半。其后续 Mobile ALOHA（Fu et al.，2024）把双臂装上移动底盘，整机成本约 3.2 万美元，通过与静态 ALOHA 数据联合训练（co-training），让四个移动操作任务（炒菜、按电梯、擦桌子等）达到约 80% 的成功率。

但遥操作终究是人肉产能。Open X-Embodiment（2023，Google DeepMind 联合全球 21 个机构、33 个实验室）把各家实验室多年积累的真机数据汇成统一格式，也只有约 100 万条轨迹——对比语言模型动辄 15 万亿 token 的训练语料，机器人数据在数量级上差了四到五个数量级。这个缺口决定了过去七年具身智能的主流工程策略：先在仿真里把策略练到能用，再解决仿真与现实的差距。

GPU 并行仿真：训练时间从天级压到分钟级

仿真的第一条生产力跃迁来自并行化。MuJoCo（Todorov et al.，2012）时代的物理仿真跑在 CPU 上，强化学习策略要学会一个 locomotion 任务通常需要数十小时甚至数天的墙钟时间。NVIDIA 的 Isaac Gym（Makoviychuk et al.，2021）把物理仿真整体搬进 GPU：刚体动力学、观测计算、奖励计算全部在显存内完成，单卡可以并行跑一万个环境，无需 CPU-GPU 之间来回搬运数据。ETH Zurich 与 NVIDIA 的后续工作「Learning to Walk in Minutes Using Massively Parallel Deep Reinforcement Learning」（Rudin et al.，CoRL 2021）用 4096 个并行环境，让 ANYmal C 四足机器人的行走策略在单张 RTX 3090 上二十分钟内训练完成——同类任务在传统 CPU 管线下要以「天」为单位计。并行仿真不仅压缩了时间，还改变了算法设计空间：可以给每个环境独立随机化物理参数，这直接催生了大规模域随机化。

第二条跃迁来自生成式仿真。CMU、MIT、Stanford 等机构联合开源的 Genesis（2024）把物理引擎、生成式资产管线与物理验证体系做成了一个框架，官方报告在 MPM 流体等特定材料上单张 RTX 4090 的仿真速度最高达到实时的约 43 万倍。抛开营销成分，这类系统的实际意义是：一小时的机械臂操作数据在几分钟内就能生成，数据采集从瓶颈变成了流水线。

flowchart LR
    A["真机遥操作采集<br/>ALOHA / DROID"] --> B["场景与资产重建<br/>NeRF / 3DGS / 数字表亲"]
    C["程序化环境生成<br/>Isaac Lab / Genesis"] --> D["大规模仿真训练<br/>域随机化 + GPU 并行"]
    B --> D
    D --> E["零样本部署<br/>Sim-to-Real"]
    E --> F["真机评测与失败分析"]
    F --> G["在线适应 / 世界模型微调<br/>DayDreamer 类方法"]
    G --> H["VLA 大模型蒸馏与数据回流"]
    H --> D
    F -.失败模式.-> A

二、Sim-to-Real 的三条技术路线

路线一：域随机化，把真实世界当作随机变量的一个采样

域随机化的思想由 OpenAI 系统化提出：Tobin et al. 的「Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World」（IROS 2017）在仿真里随机化物体纹理、形状、光照，让抓取网络在真实图像上零样本工作——训练分布覆盖得足够宽，真实世界就只是分布中的一个采样点。这个思路的极端形态是 OpenAI 的 Dactyl 项目：Shadow Hand 学会单手转魔方（2019），全程只在仿真里训练，配合自动域随机化（Automatic Domain Randomization，ADR）让随机参数的取值范围随训练逐步扩张，累计消耗了相当于约 1.3 万年的仿真经验，部署到真机后甚至能抵抗戴手套、被布条遮挡等真实扰动。代价同样明显：过度随机化让策略变得保守，且对接触密集型任务，仿真接触模型的保真度仍是硬伤。

2023 年之后，域随机化里最难啃的部分——奖励函数设计——被大模型接管。NVIDIA 与 UPenn 的 Eureka（Ma et al.，ICLR 2024）用 GPT-4 通过进化搜索自动编写并迭代奖励代码，在 Isaac Gym 的 29 个强化学习环境中，自动生成的奖励平均比人类工程师手写的奖励高出 52%（归一化提升），其中「甩笔」任务发现了一种逐手指渐进式奖励结构，人类专家从未写出过等价形式，且该策略零样本迁移到了真实 Shadow Hand 上。这把 Sim-to-Real 管线里最后一块依赖人类手艺的环节自动化了。

路线二：Real-to-Sim 与数字孪生

第二条路线反向操作：不是让仿真迁就现实，而是让仿真更精确地复刻现实。典型做法是用 NeRF 或 3D Gaussian Splatting 从多视角扫描重建场景资产，导入 Isaac Sim 等平台搭建数字孪生，再用系统辨识校准摩擦、阻尼等接触参数。2024 年出现的 Digital Cousins 方案更进一步：不再追求逐场景精确扫描，而是用预训练视觉特征做检索，从资产库里找到语义近似的「数字表亲」资产来替代，显著降低了建模成本，实验显示在若干操作任务上数字表亲训练的策略与精确孪生训练的策略迁移效果相当。Real-to-Sim 的优势是仿真偏差更小、域随机化负担更轻；短板是管线长、资产工程重，场景一换就要重来，规模化的天花板受制于重建质量。

路线三：直接在真实世界学习

第三条路线干脆绕开仿真器。Google Brain 与 UC Berkeley 的 DayDreamer（Hafner et al.，CoRL 2022）把 DreamerV3 的世界模型方法搬到真机：机器人在真实世界试错，世界模型在机器人自身体验上在线学习，策略训练完全发生在学到的世界模型内部。结果是 Unitree A1 四足机器人在真实世界里一小时学会行走，全程没有仿真器参与，四个任务（行走、翻身、跟随、抓取）均为真机在线学习。世界模型路线的价值在于构造上就不存在 Sim-to-Real gap——模型学到的动力学就是真实物理的近似；但它把风险搬到了物理侧：探索期机器人会摔、会撞，安全约束让真实世界的探索预算天然有限，这也是它至今没有成为主流训练场的原因。

三、从单技能到通用操作：VLA 与跨本体数据

RT 系列：把互联网知识接进机械臂

Google Robotics 的 RT-1（Brohan et al.，RSS 2023）先验证了数据规模本身的红利：13 台 Everyday Robots 用 17 个月采集了约 13 万条真实轨迹、覆盖 700 多个任务，训练出的 Robotics Transformer 在已见任务上成功率 97%，且对见过 3 到 5 次的新物体也有约 76% 的泛化成功率——数据规模第一次成为机器人操作的主变量。RT-2（Brohan et al.，2023）再进一步，把机器人轨迹当作「动作语言」，与 PaLI-X 55B 等视觉-语言大模型联合微调，得到视觉-语言-动作模型。关键发现是涌现：在完全没见过的任务上，RT-2 的成功率约 62%，是 RT-1（约 32%）的两倍；符号理解与语义推理类任务的提升同样翻倍。互联网级别的视觉语义知识，第一次可执行地流进了机械臂。

跨本体数据则把规模再抬一级。Open X-Embodiment 汇集 22 种机器人本体的百万级轨迹训练 RT-X 系列模型：RT-1-X 在跨实验室评测中比各实验室自训的原始模型平均高出约 50%；RT-2-X 在涌现技能评测上比单库训练的 RT-2 高约 50%。这组数字回答了具身智能圈争论多年的问题——不同本体的数据是否存在正迁移：答案是肯定的，前提是数据规模足够大且混合得当。

π0 与新一代 VLA

Physical Intelligence 的 π0（Black et al.，2024）代表了 VLA 的第二代设计：以 7B 的 PaliGemma 为骨干，附加一个「动作专家」模块，用流匹配（flow matching）生成连续动作块，支持 50Hz 的高频控制，不再把动作离散成 token。异构数据混合——多种本体、多种任务类型、遥操作与仿真数据并存——是它区别于 RT 系列的另一个特征，官方演示覆盖叠衣服、收餐桌、组装纸箱等长时程精细任务。同期生态在快速铺开：NVIDIA 2025 年开源了人形机器人基础模型 GR00T N1（双系统架构：VLM 慢系统 + 扩散动作快系统），多机构合作的 DROID 数据集（2024）用统一硬件规格采集了约 10 万条跨 564 个场景的真机轨迹。遥操作数据采集正在从实验室手艺变成产业流水线。

四、开放问题：长程任务、评测与安全

误差累积与长程任务

模仿学习的老问题在 VLA 时代依然成立：策略一旦出错，观测分布就漂出训练分布，误差随时间复合。ACT 的动作分块预测与 π0 的流匹配动作块都是在缓解这个问题，但当前 VLA 的可靠作业时程仍然只有一两分钟量级，远低于「收拾整个厨房」这类任务的需求。层级化（高层 VLM 规划子目标、低层策略执行）是明显趋势，但子目标的错误传播与重规划机制都还没有公认解。另一个隐性瓶颈是成功判定：真实任务是否完成，靠人来标注不可规模化，用 VLM 当裁判又引入裁判偏差，可靠的自动成功检测器本身还是一个开放研究问题。

评测标准化与数据主权

具身智能至今没有 ImageNet 时刻。仿真基准（ManiSkill 系列、robosuite、LIBERO）之间互不可比，真机评测则几乎没有跨实验室可比性——同一任务定义在不同硬件、不同物体集上意义不同。Open X-Embodiment 的跨实验室协议是可贵的第一步，但覆盖的任务类型仍然偏窄。评测缺失带来一个直接后果：VLA 论文报告的成功率难以横向比较，产业宣称与学术证据之间存在灰区。此外，随着遥操作数据成为战略资产，数据的所有权、格式标准与共享机制正在变成超出技术范畴的制度问题。

小结

具身智能的学习路径正在收敛为一个复合范式：GPU 并行仿真解决规模与速度，域随机化与 Real-to-Sim 处理物理差距，真机遥操作数据与世界模型提供真实性，VLA 大模型提供语义泛化。Dactyl 的 1.3 万年仿真经验、Rudin 的二十分钟行走、RT-2 翻倍的涌现成功率、π0 的叠衣服演示，分别是这条路径上四个关键节点的能力刻度。当前最大的瓶颈已经不是算法，而是真机数据的产能与评测的标准化——换句话说，具身智能正在从「算法受限」转入「数据与基础设施受限」阶段，这与语言模型五年前走过的路惊人地相似，而它面对的物理世界，远比文本语料更不宽容。