Cerebras晶圆级引擎如何拆掉内存墙
AI 总结
一篇技术分析长文详解Cerebras的晶圆级引擎（WSE）：它不切割晶圆，而是把一整片300mm晶圆做成21.5cm×21.5cm的大芯片，包含84个网格、约90万个激活核心、4万亿个晶体管和约44GB片上SRAM，片上带宽号称21PB/s。文章称WSE把权重直接放在计算单元旁的SRAM里，绕开了GPU每生成一个token都要从HBM完整搬运权重的“内存墙”。文中还介绍了跨划片道金属缝合、全片测试与冗余绕行容错，以及冷板＋晶圆＋柔性连接器＋PCB的四层“engine block”封装（峰值功耗23kW、垂直供电、微通道水冷）。
深度见解
如果晶圆级方案在低延迟推理上确实成立，它会给目前由GPU主导的推理算力市场提供一条完全不同的技术路线。