AI存储墙挑战加剧:HBM带宽增速为何落后算力?面积、供应与散热瓶颈解析
Micron在Hot Chips 2026预警AI存储墙加剧:AI加速器算力每两年增三倍,HBM带宽增长不足两倍。Meta Llama 3数据显示HBM故障占训练意外中断17%,且HBM面积与散热压力陡增。
- Micron
- HBM
- AI存储墙
- Hot Chips 2026
- Meta Llama 3
据TrendForce报道,在Hot Chips 2026大会上,美光(Micron)强调,AI算力的进步速度正快于存储性能的提升,“存储墙”(storage wall)的挑战正日益严峻。美光Fellow Raghu Sriramaneni指出,AI加速器的算力大约每两年增长三倍,而同期HBM(高带宽内存)的带宽增长不足两倍,且这一差距可能进一步扩大。对HBM的依赖加深也带来了可靠性问题;美光援引Meta Llama 3的数据指出,HBM故障约占意外训练中断的17%。模糊计算与存储边界的新设计可能有助于突破这一瓶颈。
HBM的扩容也带来了面积与供应压力:最新一代封装将两颗GPU与八颗12层HBM4堆栈集成,存储部分约占半导体面积的90%,其面积超过GPU所占面积的八倍;若要用HBM实现同等容量,所需晶圆数量约为标准DDR5 DRAM的三倍。热管理也已成为关键制约因素,业界正在探索液冷和超薄芯片等解决方案。
美光正在推进互连、封装与冷却方面的创新,包括为存储优化的SerDes和芯粒间物理层(die-to-die PHY)、更大尺寸的系统级封装(SiP)以及采用玻璃基板的先进封装,同时也布局液冷、混合键合(hybrid bonding)技术,并开发融合键合(fusion bonding)以降低热阻并提升数据吞吐量。
核心数据与要点
从Micron披露的信息看,当前AI硬件面临几组关键数字:算力每两年约3倍,HBM带宽同期不到2倍;HBM故障在Meta Llama 3训练中占意外中断约17%;存储占先进封装半导体面积约90%;实现同等容量时,HBM消耗的晶圆约为标准DDR5 DRAM的3倍。
风险关注点
当前AI基础设施的制约主要体现在三方面:一是带宽缺口持续扩大,训练与推理对内存带宽的需求远超供给增速;二是HBM堆叠层数与容量提升导致面积激增,晶圆消耗和供应成本上升;三是封装密度大幅提高后,散热成为物理层面的硬约束,直接影响系统稳定性与训练效率。
后续技术观察方向
Micron给出的技术路径集中在互连带宽、封装形态与散热方案三个维度。互连层面关注面向存储优化的SerDes与die-to-die PHY;封装层面关注大尺寸SiP与玻璃基板先进封装的量产进度;散热与集成层面则关注液冷、混合键合及融合键合在降低热阻和提升数据吞吐量方面的实际表现。