博通近期已开始出货最新数据中心交换机芯片Tomahawk 6,7月将广泛供应,目标是加速人工智能(AI)运行。
博通资深副总裁Ram Velaga 2日接受路透访问时指出,Tomahawk 6的芯片性能是前一代的两倍,并加入多项流量控制功能,使网络芯片效率显著提高,这意味同样的任务可用更少的网络交换机完成。
Tomahawk 6由台积电3纳米生产,而新芯片延续采用共封装光学技术(CPO),将收发器功能直接集成到交换机处理器中,有助减少硬件成本并降低功耗。
一般来说,在建设AI数据中心时,每十颗GPU需要配置一个交换机,构建十万颗GPU的集群,则需要约一万个交换机芯片。同时,当配备超过十万颗GPU的超级计算机运行时,性能瓶颈往往不在运算芯片本身,而是GPU之间的通信速度。因此,若要将这些芯片连接成一个整体,打造成大规模的芯片集群时,就需要专用的网络设备与芯片,使博通的网络交换机芯片越来越重要。
解决方案之一,Velaga表示Tomahawk 6速度与功能已大幅提升,足以构建下一代大型AI数据中心,规模可能超过十万颗GPU互相串联,“再过几年,你将看到一座建筑物内容纳百万颗GPU。”
博通的网络芯片采用以太网络(Ethernet)协议,相较之下,NVIDIA则主打竞争技术InfiniBand,也推出部分基于以太网络的产品。Velaga认为,所有这些网络架构都可以通过以太网络轻松实现,不需要那些艰深复杂的技术。
值得注意的是,这款芯片以单芯片102.4 Tbps的交换容量创下业界记录,是现有以太网交换机带宽的两倍。而Tomahawk 6是系列首款使用多芯片封装(chiplets)的产品。Velaga表示,采用小芯片设计后,芯片可使用的硅面积增加一倍。
价格方面,博通未透露确切售价,但强调单价低于2万美元,部分大量采购客户可获得折扣。有分析机构预期,Tomahawk 6有望使得AI训练成本降低30%-40%。
(首图来源:博通)