Meta与Arm本周宣布从移动端到数据中心的AI合作,包括Meta AI应用程序基础架构将搬上Arm平台。
这项合作是本周Meta宣布投资15亿美元,在德州El Paso建造一座Gigawatts的AI数据中心的一部分。这座数据中心预计2028年激活,是Meta在全球第29座数据中心。
双方称这项合作是从“从执行机上智能的毫瓦设备到训练世界最先进AI模型的百万瓦等级系统”,且这次合作可协助Meta全球平台的多类型运算、负载和应用体验。
双方的第一项合作是让Meta平台如Facebook和Instagram(IG)的AI排序及推荐系统使用Arm的Neoverse-based数据中心平台,有望比x86系统提高性能,降低能耗。二家公司将合作把Meta AI基础架构软件堆栈,从汇编器、函数库到AI框架都为Arm架构优化,双方将合作调校开源组件,例如Facebook General Matrix Multiplication及PyTorch使用Arm矢量扩展及性能函数库,提升推论的效率和传输吞吐量。
合作的第二部分是深化双方AI软件优化的合作,涵盖PyTorch机器学习框架、ExecuTorch边缘推论runtime引擎与vLLM数据中心引擎。双方现在已以Arm KleidiAI软件库优化Meta的Executorch,也计划持续改进在移动设备上的效率,加速模型部署,推升从边缘到云计算的AI应用性能。
这项消息也是Arm年初传出组建AI部门计划生产AI芯片后,双方合作一项进展,传闻新芯片今年秋季要推出,而Meta是第一家客户。
此外,Meta和Arm也计划持续投入AI相关的开源技术贡献。本周Arm宣布被任命为开放运算项目(OCP)的董事成员将和AMD及Nvidia推动AI数据中心的开放式、可互操作设计。