英伟达详解AI内存全栈协同设计：HBM容量仅增3%，Agent吞吐量/美元最高提升30倍

英伟达发布AI内存全栈协同设计策略，通过NVFP4压缩模型权重、NVLink分布式存储、KV Cache分层卸载等技术，在HBM容量仅增加3%的情况下，使Agent工作负载的每美元吞吐量最高提升30倍。