2023年10月，三星举办了Samsung Memory Tech Day 2023活动，宣布推出代号为Shinebolt的新一代HBM3E。到了2024年2月，三星宣布已开发出业界首款HBM3E 12H DRAM，拥有12层堆栈，容量为36GB，是迄今为止带宽和容量最高的HBM产品。之后，三星开始向客户提供了样品，并计划2024年下半年开始大规模量产。

根据外媒报道，三星已经与处理器大厂AMD签定价值30亿美元的新协议，将供应HBM3E 12H DRAM，预计会用在Instinct MI350系列AI芯片上。在此协议中，三星还同意购买AMD的GPU以换取HBM产品的交易，但是具体的产品和数量暂时还不清楚。

先前有市场消息指出，AMD计划在2024年下半年推出Instinct MI350系列，属于Instinct MI300系列AI芯片的升级版本。其采用了芯片代工龙头台积电的4纳米制程技术生产，以提供更强大的运算性能，并降低功耗。由于将采用12层堆栈的HBM3E，也在提高传输带宽的同时，还加大了容量。

根据官方消息，三星的HBM3E 12H DRAM提供了高达1280GB/s的带宽，加上36GB容量之后，相较前一代的8层堆栈产品提高了50%。由于采用了先进的热压非导电薄膜（TC NCF）技术，也使得12层堆栈产品与8层堆栈的产品有着相同芯片高度，满足当前HBM封装技术的要求。该技术还借由芯片间使用不同尺寸的凸块来改善HBM的热性能，在芯片键合过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域，将有助于提高产品的良率。

根据三星的说法，在人工智能应用中，采用HBM3E 12H DRAM预计比HBM3E 8H DRAM的大模型训练，平均速度提高34%，同时推理服务用户数量也将增加超过11.5倍。对此，市场人士表示，该笔交易与三星芯片代工的谈判是分开的。因此，先前有消息表示，AMD将把部分新一代CPU/GPU交由三星芯片代工来生产，这与该笔交易将不相关。

(首图来源：Flickr/Jamie McCallCC BY 2.0)