韩国著名入口/搜索引擎网站Naver上周宣布,旗下Naver Place店家与餐厅搜索/推荐服务,决定将推论(inference)过程使用的AI服务器芯片供应商,由英伟达(Nvidia Corp.)转换至英特尔(Intel Corp.),主要是受到供货吃紧及涨价问题影响。对此,分析人士相信,此举虽然可行、但应用范围有限,赛局并未出现重大变化。
Seeking Alpha、Investing.com报道,Bernstein由Bokyung Suh带领的分析师团队6日发布研究报告指出,Naver以英特尔的Sapphire Rapids CPU及AI加速器取代英伟达H100虽然可行,但却非“理想”状态,因为训练大型语言模型(LLM)等AI任务的成本非常高昂。
Bernstein指出,截至目前为止,英伟达H100依旧是全世界性能最佳的AI芯片,执行推论任务的效果比前代A100提升1.5-4.5倍,推论测试结果也优于Google、高通(Qualcomm)、英特尔旗下Habana Labs推出的AI加速器。
报告称,把GPU改换成CPU并非理想选择,因为AI任务的成本非常高,尤其是在LLM模型的训练方面。即便H100售价昂贵许多,且面临生产与供给窘境,但“训练”(training)与“推论”的总成本依旧较低。
该证券相信,中长期而言,Naver恐怕无法以英特尔CPU代替GPU,为LLM模型进行训练、微调。结论是,Naver、英特尔的合作项目虽可行,但应用范围相当窄,或许只能用于推论、或参数(parameter)必须调得够低,肯定无法改变赛局(definitely not the game changer yet)。
报告并指出,Naver的生成式AI LLM模型参数约200B,但Naver Place LLM的参数仅占整个模型不到5%,不是用来训练或微调的。
英伟达6日闻讯上涨1.66%、收457.51美元,创10月16日以来收盘新高;年初迄今飙涨213.06%。英伟达预定11月21日美股盘后公布财报。
Barron's 6日报道,FactSet统计显示,分析师普遍预测英伟达今(2023)年营收有望增长接近一倍至525亿美元,每股盈余则有望增长近三倍。FactSet预测,拜未来几年云计算支出将有双位数增长之赐,英伟达未来5年每年的营收有望增长超过20%、于2028年达到将近1,500亿美元,这会使每股盈余的年增长率逼近30%。
(首图来源:)