微软在AI芯片创新取得重大进展,搭载Azure Cobalt 100的虚拟机已推出,可运用多种场景,微软自家Microsoft Teams媒体处理功能也完全在Azure Cobalt 100上完成。微软更在Microsoft Ignite 2024大会,推出自研芯片“Azure Boost DPU”和“Azure Integrated HSM”。
微软第一款DPU(data processing unit,数据处理单元)Azure Boost DPU推出,将传统服务器的多个组件集成至单芯片中,能够高效率和低功耗执行Azure以数据为中心的工作负载。微软预估未来配备DPU的Azure服务器执行工作负载的性能将是现有服务器4倍,同时功耗降低3倍。
Azure Boost DPU的开发可能起源于Fungible,它是微软去年12月收购的DPU制造商。外媒报道指出,微软斥资约1.9亿美元收购Fungible,团队在并购后加入微软的基础设施工程部门。
DPU是一种专用硬件,用于处理某些数据处理任务,可能包括数据流量的安全性和网络路由,DPU可减少用于核心运算任务的CPU和其他芯片工作负载(包括AI工作负载)。
DPU市场在过去几年渐受重视,NVIDIA 2019年开始提供BlueFieldDPU,而AMD自2022年以来则有PensandoDPU。NVIDIA首席执行官黄仁勋认为,CPU、GPU及DPU将构成数据中心的基础,在他的愿景下,CPU将处理数据中心一般任务,GPU支持加速运算,DPU则管理数据流。
Azure Boost DPU。
微软也推出首款加强云计算数据安全的自研芯片Azure Integrated HSM,将签署密钥和加密密钥包含在安全模块中,让数据传输更安全,Azure Integrated HSM是微软继Pluton安全处理器后的第二款安全芯片。
“从明年起,微软数据中心每一台新服务器将安装Azure Integrated HSM,强化Azure硬件群集对机密和通用工作负载的保护”,微软表示。
Azure Integrated HSM。
微软研发、用于数据中心的AI芯片Azure Maia,也在美国数据中心正式上线,为Azure OpenAI的应用提供算力支持。
在AI算力上,微软持续深化NVIDIA与AMD的合作。微软发布NVIDIA Blackwell on Azure,以ND GB200 v6虚拟机最大化AI基础架构,目前提供预览。微软也成为第一个提供AMD MI300X GPU的公有云,为Azure OpenAI服务提供算力支持;不只如此,微软发布与AMD共同研发的Azure HBv5,为高性能计算树立新标准,预计明年上市。
(图片来源:微软)