量子位· 听雨·· 8 小时前同事件AI 评分80
百度发布文心Unlimited OCR 2:KV缓存减少96%,支持超长文档连续解析
KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%
AI 导读
百度发布文心Unlimited OCR 2并开源,通过SR-SWA稀疏参考滑动窗口注意力机制和无限解码机制,将峰值KV缓存占用从47GB降至1.77GB,减少约96%,能连续处理3600+页文档。在MarathonDocBench评测中取得77.06综合得分,单步解码速度达全注意力机制的7.0倍。
同一件事,精选收录的是《百度发布并开源文心Unlimited OCR 2,实现任意页数文档解析》
来源:量子位 · qbitai.com