NVIDIA加剧NAND缺货潮!一套Vera Rubin多用1152TB SSD

奈飞网 4

1月13日最新消息,银行在其最新研报中强调,随着nvidia引入推论情境记忆存储(inference context memory storage,icms)等前沿技术,全球nand闪存供应紧张局面或将进一步加剧。

在AI推理任务中,为减少重复运算、加快响应效率,系统普遍采用KV缓存机制——这一机制可类比为大模型的“短期记忆”。然而,随着上下文长度呈指数级扩张,成本高昂且容量受限的hbm内存已难以持续承载激增的缓存压力。

为突破该瓶颈,NVIDIA正式发布基于Bluefield-4 DPU构建的ICMS平台,并同步定义了一个全新存储层级G3.5:将原本高度集中于HBM中的KV缓存迁移至扩展性更优的本地SSD中。

NVIDIA加剧NAND缺货潮!一套Vera Rubin多用1152TB SSD-第1张图片-奈飞网

借助这一架构革新,NVIDIA显著优化了推理性能——最高提速达5倍,能效提升同样高达5倍,端到端延迟亦实现大幅压缩。

据花旗测算,在单套Vera Rubin NVL72 AI系统配置中,为保障ICMS高效运行,NVIDIA将在每个机架额外部署最高16TB SSD,整套系统SSD总容量可达约1152TB。

市场数据显示,Vera Rubin服务器预计2026年出货量为3万台,2027年将跃升至10万台。

NVIDIA加剧NAND缺货潮!一套Vera Rubin多用1152TB SSD-第2张图片-奈飞网 Figstack

一个基于 Web 的AI代码伴侣工具,可以帮助跨不同编程语言管理和解释代码。

下载

由此推算,仅该平台就将在2026年催生3456万TB的新增NAND需求,占当年全球NAND总需求的2.8%;至2027年,该数字将飙升至1.15亿TB,占比攀升至9.3%。

值得注意的是,花旗当前预测仅覆盖Vera Rubin平台,尚未纳入更高阶的Rubin Ultra系统,也未考量下一代Feynman架构可能带来的增量需求,因此实际NAND用量增长幅度或远超当前预估。

花旗指出,NVIDIA大规模落地ICMS技术,有望成为NAND存储厂商的重要利好驱动因素,三星、SK海力士、铠侠、西部数据美光等头部供应商料将率先受益。

NVIDIA加剧NAND缺货潮!一套Vera Rubin多用1152TB SSD-第3张图片-奈飞网

标签: 固态硬盘 英伟达 nand 科技新闻