跳到正文
arXiv · cs.RO· Muhammad Danish Waseem·· 15 小时前精选AI 评分70

VLA推理时间消耗分析:跨GPU的瓶颈与优化交互

Where Is VLA Inference Time Spent? Bottlenecks and Optimization Interactions Across GPUs

AI 导读

该论文对七类推理优化方法在七种最先进的VLA模型和四种GPU家族上进行了全面测量研究,分析了CPU启动开销、内存带宽和内核效率如何共同影响优化收益,并提出了VLA-Triage优化组合指南。

推荐理由

首次系统测量七类优化方法在七种VLA模型和四种GPU上的性能交互,为实际部署提供可操作的优化组合指南。

来源:arXiv · cs.RO · arxiv.org