🍬世界模型专家:世界模型仍在演进,核心壁垒在物理世界反馈数据
🍬1、世界模型三条路线:VLA负责动作执行,JEPA侧重状态预测。
🍬JEPA(杨立昆路线):通过隐空间预测未来状态。Meta V-JEPA 2已展示物理预测及
机器人规划能力,但复杂物理交互仍待突破。现在比较落地的场景是智驾(速度快,时延低,满足智驾要求)机器人落地的暂时比较少
🍬VLA: 以Google RT、Physical Intelligence π₀、英伟达GR00T等为代表,联合建模视觉、语言和动作。π₀采用Flow Matching实现连续动作生成,公开展示最高约50Hz控制频率。但是时延的问题不适合智驾,但是时延可忍受的场景很适合。
🍬视频世界模型及3D建模:Sora、Seedance、Cosmos侧重环境生成和未来预测; World Labs(李飞飞路线)等侧重三维空间重建。两者可补充机器人训练和空间理解,但不等同于VLA。
整体来看,三条路线并非替代关系,未来更可能走向融合:世界模型负责环境预测,VLA负责动作生成。
🍬2、数据:真正稀缺的是触觉、力矩等物理反馈。
专家估计,单任务VLA训练约需1000小时数据,多任务泛化可能需要上万小时。视觉可以识别物体但难以判断接触力、摩擦、滑移和形变,需要触觉、力觉及关节力矩传感器提供反馈。
数据来源主要包括Ego第一视角、UMI动作采集、机器人动作轨迹及触觉力觉数据。具体比例因任务而异。
映射: 关注Ego/UMI数采设备、机器人数据采集平台及触觉、力觉、力矩传感器。
🍬3、仿真平台:重要训练基础设施但无法替代真实交互。
仿真可提供虚拟场景、合成数据、轨迹训练和模型验证。海外关注英伟达Omniverse、Isaac Sim、Isaac Lab及Cosmos,国内包括光轮智能、51Sim等。但摩擦、接触力、材料形变等物理过程难以完全复现,仍存在Sim-to-Real Gap。
总结: 短期重点关注三条主线:一是触觉、力觉、力矩传感器及数采设备;二是仿真平台及高质量数据服务。三是模型厂商下场做硬件的确相对本体厂商存在一些优势
by ty