英伟达解读 AI 内存瓶颈方案：HBM 仅增约 3%，每美元智能体吞吐量最高提升 30 倍

英伟达 11 月 5 日发布技术解读，称大模型参数、上下文长度和智能体应用使 GPU 显存承压，HBM 供应趋紧、价格上升且预计持续。其方案以全栈协同设计提升内存价值，包括 NVFP4 压缩、NVL72 将权重分散至最多 72 颗 GPU、Vera CPU 的 LPDDR 缓冲及 Dynamo 迁移不活跃上下文至 CMX。