大摩最新报告观察到AI GPU租赁服务盛行,帮助企业快速导入AI运营,目前主流是H100,再来有Gaudi2及MI300X,其中最近有观察到Gaudi有在加单,反应在CoWoS-S增3-4K芯片,因此点名点名世芯、技嘉、纬创、联想、台达电将受益运算外包。

大摩表示,AI运算租赁业务模式日趋成熟,AI GPU产品种类繁多,NVIDIA GTC大会为台湾下游供应链创造新的机会,首先GPU租赁业务模式协助企业快速构建AI工作负载,目前以NVIDIA H100为主流解决方案,而英特尔的Habana Guadi 2和AMD的MI300X同样可供出租。

大摩指出,大型企业今年正在增加其AI资本支出组合,但微软除外,因为微软在2023年已经投入大量资金,同时观察到台积电InFO-LSI产能的需求显著增长,该产能主要用在苹果的M2 Ultra,而5纳米M2 Ultra或未来3纳米M3 Ultra的需求,可能来自苹果的内部AI服务器。

大摩认为,英特尔Habana正在获得更多CoWoS分配,预计除2024年原定的10k外,为英特尔的Habana额外供应3-4k的CoWoS-S芯片,预计将产生4万颗Gaudi3芯片,有助于世芯在2025年的IC设计服务营收增长。

AI下游供应链方面,大摩表示,这次GTC主题演讲中,英伟达重点介绍纬创如何利用Omniverse Cloud构建其新DGX/HGX工厂的数字孪生平台,并展示技嘉配备H100 8-GPU设计的机架解决方案,还将有基于采用HGX、超级芯片和PCIe卡外形尺寸的Blackwell GPU。

IDC预测2026年AI PC渗透率将达到50-60%,但联想认为有更大的潜力,看好AI PC的ASP(平均销售价格)起价将至少为1,000美元,接着在2-3个季度后降至800美元,因为AI PC在2026年之前不会扩散到400-500美元的细分市场。

大摩分享,台达电共享GB200功率,从1,700W翻倍至3,300W,推升GB200服务器的每台交流服务器电源成本增加至7,200美元,而H100的成本为2,400美元,至于AI GPU机架需要250KW,而CPU机架则需要30KW。

大摩强调,GPU军备竞赛最大的担忧是大型企业或云计算供应商如何利用这种庞大的运算能力,但发现不同的AI创业公司,如CoreWeave已开始进行GPU租赁业务,以协助企业拥有GPU以加速工作负载,目前看到NVIDIA H100是不同供应商的主流租赁解决方案。

(首图来源:NVIDIA Blackwell)