跳到正文
HuggingFace Daily Papers· Yuetong Liu, Zhehao Zhou, Yitong Zhang, Haorui Chen, Jia Li·· 3 天前精选AI 评分75

工具输出无需文本化:智能体的潜在上下文压缩研究

Tools Need Not Speak in Text: Latent Context Compression for Agents

AI 导读

研究人员提出Coca-Cola模型,将LLM智能体的工具输出压缩为潜在嵌入而非文本,实验显示该方法可减少70.01%-89.24%的token消耗和24.45%-55.97的端到端运行时间,同时提升任务性能。

推荐理由

将工具输出压缩为潜在嵌入而非文本,使智能体减少70%以上token消耗并提升性能,压缩与决策信息保留的平衡是关键。

来源:HuggingFace Daily Papers · arxiv.org