英伟达新AI系统成本飙升,内存占比飙至25%
AI军备竞赛的代价正在以肉眼可见的速度膨胀。摩根士丹利最新报告指出,英伟达下一代Vera Rubin架构的VR200 NVL72机架,每套成本高达780万美元——相比上一代GB300 NVL72的400万美元,涨幅接近翻倍。而最令人瞠目的是,内存成本在这套系统中占比飙升至25%,达到约200万美元,较GB300 NVL72时期暴涨435%。
内存为何成了吞金兽?
答案藏在两个数字里:54TB LPDDR5X和超过1TB的3D NAND。VR200 NVL72搭载的内存容量是GB200 NVL72的三倍,但更大的冲击来自价格。据SemiAnalysis估算,英伟达采购LPDDR5X的价格约为每GB 8美元,但考虑到SOCAMM2模组的封装和测试成本,实际单价可能突破10美元。更夸张的是,DDR5合约价目前已在12-16美元/GB徘徊,而LPDDR5X更贵——这意味着仅LPDDR5X一项,VR200 NVL72的成本就高达40-54万美元。
存储部分更是从无到有的质变。GB200 NVL72几乎不配独立NAND,而VR200 NVL72直接塞进超过100万美元的3D NAND闪存。这一变化源于AI工作负载对数据吞吐的极端需求:大模型训练需要频繁读写检查点(checkpoint),传统DRAM缓存已无法满足,必须用高速NAND做分层存储。
GPU价格反而“良心”?
在整机成本暴涨的背景下,英伟达的单颗GPU定价反而显得“克制”。据摩根士丹利数据,Rubin GPU批量采购价为5.5万美元,Vera CPU则仅需5000美元。但别被数字迷惑——VR200 NVL72机架内包含72颗GPU和36颗CPU,仅这两项就超过400万美元。真正推高成本的,是更复杂的交换网络、液冷系统、高多层PCB和先进封装工艺。Oberon机箱虽然沿用上一代设计,但内部互联从NVLink 4升级到NVLink 5,光模块和SerDes的成本成倍增加。
算力通胀时代来临
780万美元一台机架是什么概念?以典型超大规模云服务商(如微软、亚马逊)的采购规模,单次部署动辄数千台,总成本轻松突破百亿美元。更扎心的是,这还只是硬件成本——电力、运维、冷却等隐性支出同样水涨船高。有分析师调侃:“现在建AI数据中心,堪比造芯片厂。” 虽然英伟达的毛利率依然惊人,但下游客户的利润空间正在被严重挤压。谷歌、Meta等巨头已开始自研TPU、MTIA等替代方案,试图摆脱对英伟达的依赖。这场算力军备竞赛,最终买单的恐怕还是终端用户。
不过换个角度看,内存占比升至25%也释放了一个积极信号:存储技术正在从“配角”变成“主角”。LPDDR5X和3D NAND的爆发式需求,将倒逼三星、SK海力士、美光等厂商加速产能扩张和技术迭代。对于存储行业而言,这可能是继PC和手机之后,又一个黄金十年的开端。