EdgeRock-4B模型发布：KV Cache压缩99%，单卡吞吐提升6倍

岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布EdgeRock-4B模型，通过记忆岩锚技术将KV Cache压缩99.1%，在256K上下文下固定占用72MiB。单张80GB显卡可同时运行512路长推理，吞吐达12124 tokens/s，是源模型的6.42倍。模型已开源，支持文本和图像推理，在保持推理能力的同时显著降低内存占用。