Arm资深副总裁暨物联网业务部总经理Paul Williamson在Arm Unlocked Taipei 2025的媒体访谈中,分享对边缘AI运算与IoT设备的趋势观察。

Paul Williamson在访谈中引用多家研究机构提供的数据,指出2028年时AI将会成为IoT(物联网)项目的重点科技,而边缘AI运算的基础设施投资成本将会增长60%,到了2030年边缘AI的市场收益将达到美金800-1000亿元,发展前景相当看好。

相较于“云计算”是将运算负载放置于远程的数据中心执行,“边缘运算”则是当地理位置更近的位置进行运算,例如在5G基站就近为周围的设备提供运算能量,具有可以省下将数据、文件回传至数据中心进行处理的传输带宽与流量,具有反应更快、延迟更低,且能够节省电力消耗与降低成本的优势,此外边缘运算本身就具有分布式运算的特性,因此具有更高的韧性。

考量上述要点,将AI运算的位放置至于“边缘运算”也就成为相当合理的考量。另一方面,随着处理器(CPU)、绘图处理器(GPU)、神经处理器(NPU)等各式运算单元性能与电力效率的提升,因此也能预估未来将有越来越多的IoT设备将搭载AI功能。

Arm资深副总裁暨物联网业务部总经理Paul Williamson在访谈中分享对边缘AI运算与IoT设备的趋势观察。

2030年边缘AI的市场收益预估将达到美金800-1000亿元,规模相当庞大。

相较于云计算,边缘运算具有低延迟、高隐私、高隐电力效率、低成本、高韧性等优势。

IoT设备有着时常开机的特性,在AI功能的加持下,能够发挥从人工智能(Artificial Intelligence)进化到环境智能(Ambient Intelligence)的功效,提升设备的感知能力,并在本地端提供安全保障更高、反应更灵敏的优势。

Arm于2025年2月发布全新Cortex-A320边缘AI平台,与先前Cortex-M系列处理器仅能使用SRAM与闪存相比,Cortex-A320额外支持搭配容量更大的外部DRAM内存,能够支持参数量更大的AI模型,相当适合搭配Ethos-U85 NPU,为IoT设备带来更强大的AI运算性能。

组合不但适合应用于IoT设备,也能够延伸至大型设备中担任子系统,在增加最小边际成本的前提下完成特定AI运算负载,也可在需要效高计算资源的场景下调用主系统的GPU,使用上更具弹性。

Cortex-A320是首款为IoT设备设计的Armv9架构处理器。

Cortex-A320能够搭配Ethos-U85 NPU,为IoT设备带来更强大的AI运算性能。

Cortex-A320搭配Ethos-U85的组合也在Arm Flexible Access方案范围内,能够让开发者以预付、免成本或低成本的方式取得IP授权。

Arm的产品具有低耗电、高性能、高设计弹性等特色,相当适合应用于IoT设备。

Paul Williamson在访谈中提到Cortex-A320与Ethos-U85的组合不但适合应用于IoT设备,也能够延伸至大型设备中担任子系统。

Arm表示旗下产品具有低耗电、高性能、高设计弹性等特色,相当适合应用于IoT设备,并宣示未来的边缘AI运算将由Arm主导。