VLA 推理新范式！一致性模型 CEED-VLA 实现四倍加速！

主要观点总结

本文介绍了一项由香港科技大学（广州）机器人系博士生宋文轩等人进行的研究，主要研究方向为VLA模型。针对VLA模型在实际部署中的推理速度瓶颈问题，研究团队提出了一种新的方法——一致性蒸馏训练结合提前退出解码策略。该方法通过一致性损失和混合标签自回归监督损失来引导模型在单次forward过程中预测多个正确的token，并通过提前退出解码策略提高推理速度。实验结果表明，该方法在多个基线模型上实现了超过4倍的推理加速，同时在仿真和真实机器人任务中保持了较高的任务成功率。

关键观点总结

关键观点1: 研究背景

视觉 - 语言 - 动作（VLA）模型是机器人领域的重要研究方向，近年来取得显著进展，但在实际部署中面临推理速度瓶颈问题。

关键观点2: 主要方法

研究团队提出了一种新的方法——一致性蒸馏训练结合提前退出解码策略。通过一致性损失和混合标签自回归监督损失来引导模型预测动作token，并使用提前退出解码策略提高推理效率。

关键观点3: 实验结果

实验结果表明，该方法在多个基线模型上实现了超过4倍的推理加速，同时在仿真和真实机器人任务中保持了较高的任务成功率。真实世界实验表明，机械臂动作更加顺畅，成功完成了灵巧操作任务。

关键观点4: 贡献

该研究做出了以下三大贡献：1）提出了一种通用的加速方法——CEED-VLA；2）引入了一致性蒸馏机制和混合标签监督方法；3）发现了Jacobi解码的瓶颈问题，并提出了早期退出解码策略。

免责声明