🍬世界模型专家…

📅 11-01 22:08 📰 刨米机AI精选
🍬世界模型专家:世界模型仍在演进,核心壁垒在物理世界反馈数据

🍬1、世界模型三条路线:VLA负责动作执行,JEPA侧重状态预测。

🍬JEPA(杨立昆路线):通过隐空间预测未来状态。Meta V-JEPA 2已展示物理预测及机器人规划能力,但复杂物理交互仍待突破。现在比较落地的场景是智驾(速度快,时延低,满足智驾要求)机器人落地的暂时比较少

🍬VLA: 以Google RT、Physical Intelligence π₀、英伟达GR00T等为代表,联合建模视觉、语言和动作。π₀采用Flow Matching实现连续动作生成,公开展示最高约50Hz控制频率。但是时延的问题不适合智驾,但是时延可忍受的场景很适合。

🍬视频世界模型及3D建模:Sora、Seedance、Cosmos侧重环境生成和未来预测; World Labs(李飞飞路线)等侧重三维空间重建。两者可补充机器人训练和空间理解,但不等同于VLA。

整体来看,三条路线并非替代关系,未来更可能走向融合:世界模型负责环境预测,VLA负责动作生成。

🍬2、数据:真正稀缺的是触觉、力矩等物理反馈。

专家估计,单任务VLA训练约需1000小时数据,多任务泛化可能需要上万小时。视觉可以识别物体但难以判断接触力、摩擦、滑移和形变,需要触觉、力觉及关节力矩传感器提供反馈。
数据来源主要包括Ego第一视角、UMI动作采集、机器人动作轨迹及触觉力觉数据。具体比例因任务而异。

映射: 关注Ego/UMI数采设备、机器人数据采集平台及触觉、力觉、力矩传感器。

🍬3、仿真平台:重要训练基础设施但无法替代真实交互。

仿真可提供虚拟场景、合成数据、轨迹训练和模型验证。海外关注英伟达Omniverse、Isaac Sim、Isaac Lab及Cosmos,国内包括光轮智能、51Sim等。但摩擦、接触力、材料形变等物理过程难以完全复现,仍存在Sim-to-Real Gap。

总结: 短期重点关注三条主线:一是触觉、力觉、力矩传感器及数采设备;二是仿真平台及高质量数据服务。三是模型厂商下场做硬件的确相对本体厂商存在一些优势

by ty

内容由 AI 从网络自动采集(可能存在排版混乱),仅供参考,不作为任何决策依据,因使用产生的后果不承担任何责任。

内容版权归原作者所有,本平台仅作学习研究之引用,如涉及侵权请联系删除。