HuggingFace Daily Papers· Weiheng Wu, Junkai Chen, Zhensu Sun, Jieke Shi, Yunbo Lyu, David Lo·2026-10-29 04:00· 6 天前精选AI 评分65

Shall We Approve?：面向自主编码智能体的后果感知审批机制

"Shall We Approve?" Consequence-Aware Approval for Autonomous Coding Agents

AI 导读

研究人员提出 Caper，一种后果感知的审批机制，通过在快照沙箱中预执行命令并提供独立审批，将有害命令执行率降至 6.7%，远低于现有系统的 14.8%。Caper 在隐藏有害行为的 YoloFS-Ext 基准测试中表现更优，有害行为执行率仅为 7.8%，同时仅阻止了 1.0% 的安全任务。

推荐理由

通过沙箱预执行和独立审批机制，Caper 将有害命令执行率降至现有系统的一半以下，为自主编码安全提供新思路。