京东广告联合鲲鹏超节点降低端到端推理时延15%

京东广告与华为鲲鹏合作，通过创新组网、KV Cache两级缓存和RPC通信改造，将端到端推理时延降低15%，核心业务场景5%流量已在鲲鹏集群上运行。双方计划继续推进'双十一'更大规模业务迁移，并探索Agent沙箱等前沿技术。