跳到正文
钛媒体· Leo张ToB杂谈·· 2 天前AI 评分75

联想集团发布存算融合池化系统解决大模型推理存储墙问题

每天500万亿Token背后,KV Cache正把存储墙推到台前

AI 导读

联想集团首席科学家肖利民介绍,随着中国每天Token消耗量从2024年的1000亿跃升至2025年8月的500万亿,存储墙问题被放大。联想推出基于内存池化和近存计算的存算融合池化系统,在三个核心模块测试中,首Token延迟降低2.4-3.5倍,系统吞吐提升6-20倍。

来源:钛媒体 · tmtpost.com