arXiv · cs.RO· Isabel Guan·· 8 天前AI 评分45
视觉语言模型成功监控中的覆盖偏移研究
When Better Policies Leave Harder Failures: Coverage Shift in VLM Success Monitoring
AI 导读
研究发现,机器人策略改进后,视觉语言模型对失败案例的监控敏感性反而降低。在20次托盘放置实验中,成功率从66.8%升至97.0%,但剩余悬停失败被接受的比例从31.1%升至50.0%,这些失败多发生在托盘边缘下方,可能被遮挡。该现象被称为"覆盖偏移",表明任务改进与失败可检测性并非同步提升。
来源:arXiv · cs.RO · arxiv.org