arXiv · cs.RO· Muhammad Danish Waseem·· 15 小时前精选AI 评分70
VLA推理时间消耗分析:跨GPU的瓶颈与优化交互
Where Is VLA Inference Time Spent? Bottlenecks and Optimization Interactions Across GPUs
AI 导读
该论文对七类推理优化方法在七种最先进的VLA模型和四种GPU家族上进行了全面测量研究,分析了CPU启动开销、内存带宽和内核效率如何共同影响优化收益,并提出了VLA-Triage优化组合指南。
推荐理由
首次系统测量七类优化方法在七种VLA模型和四种GPU上的性能交互,为实际部署提供可操作的优化组合指南。
来源:arXiv · cs.RO · arxiv.org