英特尔似乎终于意识到与NVIDIA展开AI运算能力竞争没有赢面,决定不追逐训练大规模人工智能模型市场,正寻求通过新的Gaudi 3产品推出经济解决方案。

英特尔正投入一个相对较少的人工智能业务领域,根据CRN一份报告,英特尔将旗下最新的Gaudi 3 AI加速器定位为有价值产品,具市场上最佳性价比,虽然从性能角度来看,Gaudi 3“没有追上”Nvidia最新GPU,但该加速器芯片非常适合运行基于任务的模型与开源模型。

随着“以推理为中心”的LLM模型首次亮相,英特尔称Gaudi 3系列性能与NVIDIA备受欢迎的H100 AI加速器相当,尤其是推理工作负载大幅上升。根据英特尔计算,Llama 3模型中Gaudi 3比H100快约9%,性价比高80%;在Llama 2模型中,Gaudi 3速度提高19%,性价比差异则高达2倍,确实令人印象深刻。

虽然Gaudi 3在这两项LLM测试表现优于H100和H200,但在16位元和8位元格式的浮点运算的测试中,表现不如H100,表明硬核AI性能目前还不是英特尔的牌,他们意识到硬件方面无法与NVIDIA竞争,加上人工智能运算领域有另一个崛起的竞争对手AMD,英特尔决定不参与主流市场需求,不打算在这场竞赛与Nvidia的GPU正面交锋。

从长远来看,英特尔认为等人工智能与大型数据中心热潮消退,较小的LLM模型会被更广泛采用。

(首图来源:Intel)