内存大厂美光9日发布12层堆栈的HBM3E高带宽内存,产品容量为36 GB,针对人工智能和HPC,可搭配英伟达H200和B100/B200数据中心GPU。
美光指出,新发布的12层堆栈HBM3E拥有36GB容量,比之前的8层堆栈的24GB容量增加50%。容量增加可使数据中心执行更大AI模型,例如Llama 2高达700亿个参数。美光12层堆栈HBM3E消除CPU从内存频繁读取,并减少GPU沟通延迟,加速数据处理。
性能方面,美光12层堆栈HBM3E超过1.2TB/s内存带宽,数据传输速率超过9.2Gb/s。虽然12层堆栈HBM3E容量比竞争对手产品高50%,但功耗却低于前代八层堆栈HBM3E。
美光12层堆栈HBM3E还包括完全可编程内存的内置自测 (MBIST) 系统,以确保客户更快上市时间和可靠性。全速模拟系统级流量,对新系统彻底测试和更快验证。
美光还强调,HBM3E内存与台积电先进封装 (CoWoS) 兼容,可搭配封装英伟达的H100和H200等数据中心GPU。 台积电生态系统与联盟管理部负责人Dan Kochpatcharin表示,台积电和美光有着长期的战略合作伙伴关系。 生态系统的一部分,双方将密切合作,使美光以HBM3E系统和先进封装 (CoWoS) 支持客户AI创新。
美光已送样给主要合作伙伴,以利用AI生态系统验证测试。
(首图来源:美光)