Arm资深副总裁暨终端产品业务部总经理Chris Bergey在Computex台北国际计算机展2025开展前日,以“云计算至边缘:共筑在Arm架构上的人工智能发展”为题发布主题演讲,分享对Arm产品的规划与远景。
Chris Bergey在演说前段分析AI发展的现况与未来趋势,认为AI的运算已经从云计算、数据中心,渐渐普及至本机端与边缘,让用户能在智能手机、平板电脑甚至穿戴式设备上执行AI应用程序,而不需将数据上传至云计算处理。
延伸阅读:
Computex 2024:Arm发布终端产品运算符系统,全新Cortex-X925搭配Immortalis-G925性能提升高达36%
Computex 2024:Arm CEO Keynote重点整理,推动更全面的软件、硬件生态系统
Arm Tech Day 2024解析终端产品运算符系统(3):完整软件开发工具靠处理器就能加速AI
Chris Bergey也在演说中提到,台湾具有完整的芯片设计、制造、封装相关产业链,也具有丰富的主板、服务器相关厂商,可以说是处于AI发展的中心,具有举足轻重的领导地位。
另一方面,他也强调Arm具有坚轫的软件开发生态系统,并通过Kleidi AI函数库简化AI应用程序的开发流程,将自身定位为AI时代的平台供应商。
Arm资深副总裁暨终端产品业务部总经理Chris Bergey在Computex台北国际计算机展2025题发布主题演讲。
AI现况为模型越来越聪明、本机端与边缘AI运算成真、代理式AI与物理AI成熟等要素,且AI的普及率也相当高。
Chris Bergey称赞台湾位于AI发展的中心,具有芯片设计、制造、封装能力,也具有主板、服务器相关产业。
AI的发展趋势为涵盖运端到边缘无所不在的平台、最具规模的软件开发生态系统、追求更高电力效率等。
Arm也将自己定位为打造AI时代的平台供应商。
当对软件的需求提高之后,就会吸引更多开发者投入软件研发,并推动硬件普及,形成生生不息的正向循环。
于Computex 2024推出的Kleidi AI函数库,已集成至多个主流AI框架,并完成超过80亿次安装,进一步为各式设备提供优化的音频、形象、文本与视频等多模态AI工作负载性能。
Chris Bergey表示NVIDIA、Amazon、Google、Microsoft等多家厂商都采用Arm架构打造处理器、GPU(绘图处理器)与DPU(数据处理器)等运算单元,印证Arm具有高度应用弹性,并预估将在2025年达到50%超大规模数据中心(Hyperscale)处理器出货占比,40%的PC与平板电脑出货占比40%。
Chris Bergey分享Amazon AWS re: Invent的演说内容,指出最近2年新采购的处理器中,过半数为Arm架构的Graviton。
多家云计算服务大厂导入Arm架构处理器,并带来改善40%电力效率的效果,也有丰富的第一方与第三方软件工作负载。
NVIDIA的Grace Blackwell与Vera Rubin等架构活用Arm处理器能够定制化的特色,强化处理器、GPU之间的数据带宽,改善AI基础建设环境。
NVIDIA、Amazon、Google、Microsoft等厂商都采用Arm架构打造处理器、GPU与DPU等运算单元。
Arm预估2025年出货的超大规模数据中心处理器将约有50%为Arm架构。
Chris Bergey也分享了AI训练与AI推论之间运算量的差异。一般来说大型语言模型(LLM)的训练运算量大约为10^25-26 FLOPS,而推论只需10^14-15 FLOPS,相差大约10的11次方倍。
另一方面在PC与平板电脑出货部分,Arm预估在2025年出货占比将达40%。
Chris Bergey在演说尾声提到以AI为基础的ASR(Accuracy Super Resolution)升频技术,代表移动设备也能通过这项技术改善游戏的流畅度体验,并以节省电力消耗,另一方面也预告下代CSS(Compute Subsystem for Client,运算符系统)将带来可观的性能提升。
在演说后的媒体访谈环节中,Chris Bergey也提到对AI发展的远景,他表示AI已经改变人类与计算机的互动方式,现在我们会以“询问问题”的方式与ChatGPT等AI服务互动,而不是单纯以搜索引擎寻找答案,或是在触摸屏幕上滑来滑去,引人深思当更多AI服务进入边缘以及移动设备后,会为我们的生活带来什么变化。
Arm也推出以AI为基础的ASR升频技术,通过类似DLSS与FSR的方式改善游戏性能。
Chris Bergey预告下代CSS的处理器代号为Travis,将带来双位数百分比的IPC性能提升。
代号为Drage的GPU也将带来更逼真的3D绘图效果。
Chris Bergey以未来的AI边缘运算将构建于Arm之上作为演说结尾。
Chris Bergey在演说结束后也于访谈中与媒体交换意见。
Chris Bergey强调AI时代是千载难逢的机遇,需通过产业生态系的深度协作与持续创新,才能真正释放AI潜能,Arm也将在其中够过强大的运算平台协助产业转型,实现AI无所不在的未来。