收购Groq核心资产后，英伟达是否会用SRAM替代HBM？黄仁勋回应

1月8日消息，据Tom's hardware报道，英伟达CEO黄仁勋在CES 2026主题演讲后的采访当中，回应了近期豪掷200亿美元收购了Groq核心资产后，未来是否会以SRAM（Static Random Access Memory 静态随机存取內存）取代HBM（高带宽内存）的问题。

去年9月，英伟达宣布推出一款名为 Rubin CPX（Rubin Context GPUs） 的新 GPU，专为超过 100 万 token 的长上下文推理而设计。Rubin CPX的核心理念在于将推理过程解耦为“预填充（Prefill）”和“解码（Decode）”两个阶段，并为每个阶段设计了专业化的硬件。

Rubin CPX的优势在于，其可以降低对于昂贵的HBM的需求。Rubin CPX拥有20 PFLOPS的FP4密集计算能力，但仅配备了2TB/s的内存带宽和128GB的GDDR7内存。相比之下，双芯片R200提供33.3 PFLOPS的FP4密集计算能力和20.5TB/s的内存带宽以及288GB的HBM。

SemiAnalysis的报告也指出，将HBM切换为更便宜的GDDR7内存，每GB成本可降低50%以上。这意味着，在预填充阶段，Rubin CPX能够以远低于R200的成本，提供高效的计算能力，从而大幅降低总体拥有成本（TCO）。

2025年12月底，英伟达宣布同意以约200亿美元的现金，收购成立9年的AI芯片新创公司Groq的核心资产。Groq 是一家专注于云端AI推理芯片的开发商，其所开发的 LPU（Language Processing Unit）以其极致的单线程确定性数据流架构，在大模型推理场景中展现出高吞吐、低延迟、强确定性等关键优势，被视为当前最具颠覆潜力的推理专用芯片体系。更为关键的是，Groq LPU还在片上集成了大容量、高带宽的片上SRAM，使得其无需依赖外部的HBM，使得数据可以在极短距离内完成访问，从而进一步降低延迟与能耗。

那么，未来英伟达的GPU是否会转向SRAM来取代HBM呢？

对于这个问题，英伟达CEO黄仁勋表示，如果英伟达把所有数据都放在SRAM上，那么当然可以需要HBM内存。但问题是，可以放在SRAM中的模型大小可能要比实际需求小100倍。

治理需要指出的是，SRAM的存储密度较低，需要达到与HBM相同的容量，就需要占用更大的面积。在现有的面积限制条件下，如果完全依赖SRAM，那么就只能运行更小的模型。所以，在实际AI 工作负载中，SRAM可能会因为容量限制而受阻，难以像HBM 那样兼顾带宽与存储密度。即使在单一部署中，模型随着上下文长度、路由逻辑或额外模态的增加，也可能超出SRAM内存容量。一旦模型溢出SRAM，其效率优势就会崩溃。

当然，对于某些工作负载，SRAM可能会非常快，甚至比HBM存储器快得多，延迟也更低，可以看到预填充和解码的好处。但是，AI 的工作负载一直在改变，可能会是混合专家模型（MOE）、多模态模型、扩散模型、自动回归模型或者是序列服务管理（Sequential Server Management，简称SSM）模型等。

黄仁勋指出，每一种模型构架对硬件造成的压力都不尽相同。有些是内存受限，有些则会推高互连带宽需求；有些需要极低延迟，有些则可以容忍批次处理与延迟，这些压力都会随时间动态转移，“有时压力会转移到NVLink 上，有时候会落在HBM 內存上，有时三者都同时承受压力”。

黄仁勋认为，利用SRAM或许可以把某个特定工作负载的效率推到极限，但如果那10%或甚至5%的工作负载没被使用，那数据中心部分资源本来可以被用来做别的事情。至于开放权重模型（open weight models），并不能消除对大容量内存池、高速互连或灵活执行引擎的需求，它只是改变谁拥有模型而已。

在这种情况下，当前更为灵活的英伟达GPU+HBM的解决方案仍是客户更为普遍的选择。所以，即便客户抱怨HBM 和GPU 的高昂的成本，但黄仁勋认为这两者之间不存在矛盾，如果AI 模型趋于稳定或分化成可预测的层级才可能受影响，但他认为，那个时刻尚未到来。

不过，黄仁勋确认，会将从Grok获得的技术整合到未来英伟达的产品组合当中。

“Grok的编程模型与英伟达的不同，这种差异是极低延迟与极高吞吐量的基础。我们正在考虑重新配置一些元素，以吸收并扩展它们到英伟达功能中。产品组合将主要（约90%）以Grace Blackwell/Vera Rubin为中心，尽管一些（约10%）可能会采取专门用于极低延迟的新形式。”黄仁勋说道。

编辑：芯智讯-浪客剑