Groq下代LPU据报转向3D堆叠DRAM
AI 总结
IT之家、cnBeta、Wccftech与36氪报道称，Groq计划在下一代AI推理LPU中从大容量SRAM转向基于TSV的3D堆叠DRAM。报道指该方案将侧重存储容量而非SRAM速度，但Groq尚未正式公布产品计划、上市时间或最终规格。Wccftech还称，现有Groq LPX机架已于8月全面量产，其与NVL72服务器配合的早期测试达到每秒3400个Token。
深度见解
若获证实，这一变化将调整Groq面向大模型的AI推理加速器内存路线，但目前依据行业消息人士，尚非Groq正式确认。
IT之家 10 月 21 日消息，韩媒 ZDNET Korea 当地时间昨日报道称，NVIDIA（英伟达）的下代 Groq LPU AI 推理加速器芯片有望采用基于 TSV（硅通孔）工艺的 3D 堆叠 DRAM 方案。
当前一代的 Groq LPU 采用了大容量 SRAM 的缓存设计，提供快速解码输出。但 SRAM 有着容量较小、制程升级密度收益有限的问题，在大型模型表现和芯片迭代上存在固有局限。
IT之家注意到，同样采用大 SRAM 技术路线的 Cerebras 此前已预告未来的 CS-6 将 3D 垂直集成 DRAM。
相关阅读：
#Groq#NVIDIA#Groq LPX#Groq next-generation LPU#NVIDIA Vera Rubin#NVIDIA NVL72#Cerebras#Cerebras CS-6