人工智能 (AI) 市场蓬勃发展,企业购建运算需求大增,AI芯片一直供不应求,除了产能面临瓶颈,抢货也是重要原因之一。英伟达 (NVIDIA ) H100芯片最抢手,但经历大量扫货后,后续算力更强大的H200芯片即将上市,H100芯片服务器近期中国传出价格下跌消息。

因缺货加上美国出口禁令,英伟达H100芯片服务器抢货最凶的中国市场也出现热潮消退,价格下跌。较最热烈时期,搭载H100芯片的服务器中国黑市售价破300万人民币,现在下跌约一成,约270万至280万人民币,价差将冒险销售的厂商利润全部吃光。

英伟达H100芯片服务器跌价原因,市场人士指出,英伟达新高端AI芯片H200即将问世,新旧产品交替,囤货炒高H100价格的中国黑市厂商为了出清大量库存,开始抛货,与英伟达RTX系列显卡因虚拟货币造成抢货使价格暴涨一样。又因虚拟货币价格暴跌,大量囤积显卡价格暴跌,甚至论重销售,令人仍印象深刻。

除了新产品造成旧产品低价出售,供应瓶颈问题也有缓解。戴尔台湾宏观经济理廖仁祥表示,英伟达H100芯片等待时间,从三至四个月缩短到仅二至三个月 (八至十二周),服务器代工厂也透露,2023年几乎无法买到H100 AI芯片,供应瓶颈已有缓解。

英伟达规划,第二季开卖算力更高H200芯片,虽然H200和H100一样是Hopper架构,但性能比H100提升约60%-90%。H200升级还有内存容量跟带宽,141GB HBM3e内存较H100提升80%,带宽从3.35TB/s增至4.8TB/s,提升40%。

英伟达H200 AI芯片的大语言模型 (LLM) 推理训练性能提升显著,以含700亿参数的Llama 2大语言模型推理速度比较,H200芯片性能较H100快近一倍,能耗还只有一半,让H200芯片服务器更受市场期待,中国厂商担心H200问世直接打击H100销售,最终抛售库存,使H100芯片服务器价格骤跌。

(首图来源:英伟达)