硬件快讯
Marvell提出定制HBM架构,将内存控制器移至基底芯片以释放计算面积
Marvell提出一种定制HBM架构,将内存控制器从加速器计算芯片(XPU)移至每个DRAM堆栈下方的定制基底芯片中。
Marvell估计,与标准HBM相比,该架构在特定XPU设计下可提供最多25%更多的计算面积,容纳最多33%更多的HBM堆栈,并使内存接口功耗降低最多70%。
针对热管理挑战,Marvell识别出基底芯片中的D2D PHY为热点,主张内存堆栈、基底芯片、封装和冷却系统需协同设计。
此外,Marvell描述了D2D接口的自适应电源管理功能,称其在正常负载下可将接口功耗降低最多75%,在峰值流量下降低最多42%。
来源:neoteo
Marvell提出一种定制HBM架构,将内存控制器从加速器计算芯片(XPU)移至每个DRAM堆栈下方的定制基底芯片中。该设计通过更窄的芯片间(D2D)物理接口连接XPU,取代了标准HBM中位于XPU边缘的接口布局。[1]
Marvell估计,与标准HBM相比,该架构在特定XPU设计下可提供最多25%更多的计算面积,容纳最多33%更多的HBM堆栈,并使内存接口功耗降低最多70%。公司指出,这些数字描述的是潜在的设计增益,并不保证AI工作负载速度的提升。[1]
针对热管理挑战,Marvell识别出基底芯片中的D2D PHY为热点,主张内存堆栈、基底芯片、封装和冷却系统需协同设计。对于运行速率超过28 Gbps的下一代HBM,预计热通量将超过2.0 W/mm²。Marvell讨论了包括D2D PHY附近的硅热路径、铜对铜混合键合以及蚀刻在硅中的冷却液通道等多种解决热量的方法。[1]
此外,Marvell描述了D2D接口的自适应电源管理功能,称其在正常负载下可将接口功耗降低最多75%,在峰值流量下降低最多42%。公司还转述了一项预测,指出到2028年,16层HBM堆栈的内部温度将超过热预算。[1]