英伟达推出Vera Rubin平台AI内存全栈协同设计方案

英伟达发布AI内存全栈协同设计方案，通过NVFP4低精度格式压缩模型权重和KV Cache，将不活跃上下文转移至低成本存储层，并利用多GPU分布式部署释放HBM空间。Vera Rubin NVL72平台相较GB300 NVL72，单位成本推理吞吐量最高提升30倍，而单GPU HBM容量仅增加约3%。