传英伟达将削减Vera Rubin机架内存配置，以应对成本飙升

7月27日消息，据外媒Wccftech援引广发证券（GF Securities）的分析报道称，英伟达公司正在大幅减少其Vera Rubin NV72机架级AI系统的内存使用量，以应对持续的内存短缺和价格上涨问题。

英伟达的Vera Rubin NVL72机架系统是全球性能最顶尖的AI计算平台之一。该系统于今年1月发布，其首批性能数据在本月初由CoreWeave共享不同AI系统的吞吐量数据后首次浮出水面。结果显示，在处理混合专家（MoE）模型工作负载时，搭载英伟达Blackwell AI GPU的系统在150兆瓦功耗下可实现每秒8万token的吞吐量；而全新的VR200 NVL72 Vera Rubin平台则将这一数值提升了10倍，达到每秒80万token。

这一结果出炉之前，伯恩斯坦（Bernstein）早前的一份报告曾指出，单台NVL72 Rubin机架的成本可能高达910万美元，主要原因在于内存价格走高。伯恩斯坦表示，此前有关该机架成本为780万美元的估算，是基于过时的内存价格预测得出的。该金融机构进一步指出，HBM4内存的价格在2027年可能上涨至53美元/GB。

近日，广发证券的一份报告显示，英伟达正在进行调整，以应对内存市场的供应和价格压力。该报告认为，从Vera Rubin NVL72机架开始，英伟达将把该机架的SOCAMM（小型压缩附加内存模块）容量减半，从原先的192GB模块降至96GB。这些调整是为了应对LPDDR5X市场的供应紧张局面。

同样地，Vera CPU配套的内存将从原先的54至55TB缩减至28TB，而GPU方面每机架将继续保留20.7TB的HBM4内存。至于CPU机架的SOCAMM，该分析机构认为也将采用每颗CPU配96GB SOCAMM的方案。

这些决策在财务层面的影响在于：如果容量降至原先的四分之一，VR200的LPDDR5X成本可低至29.3万美元；如果降至二分之一，则可降至58.6万美元，从而不会触及此前120万美元的预估高位。广发证券补充称，若不做调整，内存成本在VR200系统总物料清单成本中的占比将达到29%，对应210万美元，这一比例高于20%的合理水平。

编辑：芯智讯-林子