HuggingFace Daily Papers· Yuetong Liu, Zhehao Zhou, Yitong Zhang, Haorui Chen, Jia Li·· 3 天前精选AI 评分75
工具输出无需文本化:智能体的潜在上下文压缩研究
Tools Need Not Speak in Text: Latent Context Compression for Agents
AI 导读
研究人员提出Coca-Cola模型,将LLM智能体的工具输出压缩为潜在嵌入而非文本,实验显示该方法可减少70.01%-89.24%的token消耗和24.45%-55.97的端到端运行时间,同时提升任务性能。
推荐理由
将工具输出压缩为潜在嵌入而非文本,使智能体减少70%以上token消耗并提升性能,压缩与决策信息保留的平衡是关键。
来源:HuggingFace Daily Papers · arxiv.org