摘要
视觉语言动作(VLA)模型将视觉感知、自然语言理解和动作生成统一于一个基础模型中,使机器人能够直接根据相机图像执行指令,如“折叠毛巾”或“飞往红色建筑”。由于VLA通过互联网规模的预训练继承了世界知识,成为基于学习的操作的主流框架,其中双手协调是最具挑战性的测试平台:两个各具有7个自由度的手臂必须协调运动,以折叠、组装和重新定位物体。
无人机机器人面临类似的结构性挑战:无人机必须根据视觉观察在严格的延迟和负载约束下协调推力、姿态和逐渐增多的抓取命令。本综述涵盖了2017至2026年间的183项贡献,围绕七个维度进行组织:VLA架构、训练方法、动作表征、双手协调(2022-2026)、无人驾驶飞行器(UAV)导航与控制(2017-2026)、语言基础以及包括内存和世界模型在内的交叉问题。
我们展示了为双手VLA开发的协调策略、训练方法和动作表征如何转移到无人航空系统,并识别出这两个领域的十四个研究方向。
博主点评: 该综述深入探讨了VLA模型在复杂操作中的应用,特别是双手与无人机的协调操作,展现了未来机器人技术的巨大潜力与挑战。对于研究者和开发者而言,理解这些模型的跨领域适用性至关重要。