NVIDIA 全栈协同设计优化 AI 内存效率 NVIDIA 针对大模型推理中的内存瓶颈，提出全栈协同设计方案。通过 NVFP4 精度压缩模型权重与 KV 缓存，结合 NVL72 架构将权重分布在多 GPU 上，释放 HBM 空间。同时利用 Ver... 资讯# AI生成# HBM# NVFP4 1周前120
