为了满足更高带宽、更大容量、更高效率的需求,定制化高带宽内存(HBM)正逐步成为市场焦点,预计至2026年,随着HBM4的推出,定制化HBM市场将迎来显著增长。目前NVIDIA、亚马逊、微软、博通及Marvell等主要IT企业正积极推动HBM的定制化发展。

根据Marvell的预测,定制化运算市场占数据中心的比重将从2023年的16%提升至2028年的25%,而部分内存企业预计,定制化HBM将在2030年占据整体HBM市场的30%至40%。

调研机构Counterpoint指出,定制化HBM主要有两种技术路线备受瞩目。首先是HBM直接封装至SoC,这个方案可省略基底芯片(Base Die)与中介层(Interposer),有效降低成本并扩展I/O数量。然而,此方法在扩展HBM容量方面存在挑战,并可能加剧散热问题;或者选择在基底芯片中添加逻辑功能,通过优化基底芯片内部空间,提升内存性能并改善稳定性。

除了架构选择,定制化HBM的创新主要围绕数据传输效率的提升,通过通信IP、光子技术与数据完整性强化等创新,提高数据传输效率,进一步提升HBM性能。举例来说,通过处理器与内存通信IP,包括控制器、Physical Layer(实体层)及界面技术,确保GPU与内存之间的高效传输;再来是光子技术,利用光信号替代电子信号,提高传输速率并降低延迟,虽仍面临技术与成本挑战,但具备长远发展潜力;最后是通过缓存内存降低DRAM错误,提高系统可靠性与传输性能。

Counterpoint指出,全球内存大厂与云计算企业正加速投入定制化HBM市场,虽然定制化HBM市场持续增长,但标准化趋势与成本压力可能影响其长期发展。目前企业偏好标准化解决方案以降低成本,预计随着2028年软硬件标准化进一步成熟,市场对定制化HBM的接受度可能受限。此外,内存企业需在创新与成本竞争之间寻求平衡,类似于1990年代Rambus的授权模式,未来HBM标准的演进仍存在变量。

Counterpoint Research研究总监MS Hwang表示,面对生成式AI带来的变革,内存产业正站在关键转折点。虽然定制化HBM具备突破性潜力,但市场仍须在性能提升与实际应用之间找到最佳平衡点。随着技术持续进步,未来内存市场的发展,将取决于创新能否与产业现实需求相结合。

(首图来源:shutterstock)