消息 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM，放弃大 SRAM 方案

AI 总结
• 10月21日消息，韩媒报道称英伟达下代 Groq LPU AI 推理加速器芯片有望采用基于 TSV 工艺的 3D 堆叠 DRAM 方案。
• 当前一代 Groq LPU 采用大容量 SRAM 缓存设计，但该方案存在容量较小、制程升级密度收益有限的固有局限，影响大型模型表现和芯片迭代。
• 同样采用大 SRAM 技术路线的 Cerebras 此前也已预告，其未来的 CS-6 芯片将采用 3

IT之家 10 月 21 日消息，韩媒 ZDNET Korea 当地时间昨日报道称，NVIDIA（英伟达）的下代 Groq LPU AI 推理加速器芯片有望采用基于 TSV（硅通孔）工艺的 3D 堆叠 DRAM 方

[来源链接] https://www.ithome.com/1/015/760.htm

我不太认同文中暗示大 SRAM 路线被淘汰是必然趋势的看法。Groq 当初采用大容量片上 SRAM，核心优势就在于极致的带宽和超低延迟，这对于实时 AI 推理至关重要。虽然 SRAM 密度提升受限导致容量瓶颈，但转向 3D 堆叠 DRAM 并非完美解。TSV 工艺虽然能堆叠出更大容量，但 DRAM 的访问延迟和功耗依然远高于 SRAM。如果为了塞下更大的模型而牺牲了 Groq 原本引以为傲的推理速度和能效比，这未必是明智的妥协。或许未来的方向应该是 SRAM 与 3D DRAM 的混合架构，而不是直接放弃大 SRAM。