arXiv · cs.RO· Zhengyang Cheng·· 2 天前精选AI 评分75
Efficient VLA Inference via Retrieval-Based Speculation and Hardware Acceleration
Efficient VLA Inference via Retrieval-Based Speculation and Hardware Acceleration
AI 导读
Zhengyang Cheng 等人提出 Zora 框架，通过检索增强推测和硬件加速优化 VLA 模型推理，在保持 comparable 准确度的同时实现 3.4 倍软件优化速度提升和 7.6 倍硬件加速速度提升。
推荐理由
通过检索增强推测和硬件加速，Zora 框架将 VLA 模型推理速度提升 7.6 倍，解决了机器人平台上的延迟瓶颈。
来源：arXiv · cs.RO · arxiv.org