跳到正文
Physical Harness 框架总图

Vela
视觉语言动作模型

通过样条控制点表示连续动作轨迹 联合预测动作的形状与覆盖时间

LIBERO-X 泛化对比

五级平均成功率

OpenVLA-OFT
13.2%
X-VLA
14.6%
π0
15.0%
OpenWAM-α
21.7%
GR00T N1.5
23.6%
τ0-VLA
24.9%
Xiaomi-R0
38.8%
π0.5
39.3%
π0.5-Vela
42.0%
Vela
45.3%

逐级泛化成功率

L1 至 L5 的变化逐级叠加

变化π0.5Vela提升
百分点
L1局部空间扰动65.2%67.2%+2.0
L2更大范围空间变化53.2%55.9%+2.7
L3新的场景拓扑36.0%44.9%+8.9
L4视觉属性与未见物体24.1%31.5%+7.4
L5指令改写18.0%27.1%+9.1
π0.5-Vela
从 π0.5 检查点开始进行轨迹空间后训练
Vela
将轨迹空间表示进一步用于预训练

EBench 任务对比

桌面精细操作成功率

π0.5
29.3%
π0.5-Vela
34.3%
Vela
44.3%

移动抓取与放置成功率

π0.5
56.5%
π0.5-Vela
59.0%
Vela
63.0%

长时序任务成功率

π0.5
34.1%
π0.5-Vela
28.5%
Vela
39.1%

真机任务执行

轮式双臂机器人配备 7 自由度机械臂 头部与腕部相机 每个任务阶段试验 10 次 统计各阶段成功率及其平均值

连续动作表示

固定时间网格

H 个离散动作

相同输出预算覆盖更长时间时 采样变稀疏 快速修正可能被遗漏 相邻动作输出存在冗余 平滑性需要模型隐式学习

连续轨迹空间

控制点 C 与时域 H

局部 B 样条基函数加权形成平滑曲线 每个控制点只影响附近轨迹 几何形状与覆盖时间分别表示 再按控制频率采样

样条控制点

12

预测时域 H

16 至 40 步

基函数矩阵 BH控制点 CH 步动作轨迹

模型结构

沿用 π0.5 架构 不增加可训练参数 预训练使用约 4 万小时机器人数据

  1. 多模态输入

    图像 指令 关节状态

  2. PaliGemma

    3B

    视觉语言主干编码上下文

  3. 动作专家

    300M

    Flow matching 从噪声生成控制点与时域预测

  4. 样条解码

    矩阵乘法

自适应动作时域

相同数量的控制点在平滑移动中可以覆盖更长轨迹 在插入或对齐等精细操作中需要缩短覆盖范围 每个训练样本选择满足拟合条件的最长时域

平滑伸手示例
40 步
插入对齐示例
16 步
  1. 噪声感知拟合

    通过最小二乘拟合样条 将残差按示范噪声方差和自由度归一化 能表示的轨迹得分接近 1 超出阈值时缩短时域 避免把示范噪声当作动作细节

  2. 夹爪单独约束

    夹爪开合具有突变且噪声方差可能接近零 单独使用均方根残差约束 阈值为 0.05

  3. 在线构建训练目标

    预先计算各时域的基函数矩阵与伪逆 训练时批量选择可接受的最大时域 无需额外标注或节点优化 部署时由策略联合预测控制点与时域

完整方法介绍