AI Agent工具调用轨迹隐私泄露研究

上海人工智能实验室发布研究显示，AI Agent在调用工具时留下的轨迹能暴露用户隐私，即使对话内容保密。研究构建PrivacyTrace基准，通过67,950条工具调用记录发现，攻击者可推断出用户国籍、宗教信仰等信息，成功率比盲猜高8.28个百分点。