AMD宣布收购AI推论优化技术企业Brium,以协助LLM在AMD等非Nvidia硬件架构上的推论性能。

Brium产品涵盖的汇编器技术、模型执行框架及完整的AI推论优化技术,其方案旨在提升多种硬件架构上大型语言模型(LLM)的推论效率。AMD解释,Brium技术特别之处在于它能优化模型接触到硬件前的整个技术堆栈,有助于减少对特定硬件配置的依赖,而能在更多样环境上,实现更快的AI应用。

AMD表示,Brium的收购有助于提升该公司硬件平台的效率和弹性。而Brium的收购连同AMD之前收购的Silo AI、Nod.ai及Mipsology,可强化该公司执行开源软件生态系的能力。

Brium拥有汇编器开发和分布式机器学习基础架构能力的团队加入后,可立即投入AMD OpenAI Triton、WAVE DSL和SHARK/IREE等核心项目,能实现AMD Instinct GPU平台上更快速执行AI模型。配合AMD加强投入新的精度格式如MX FP4和FP6,将可推升其AI硬件执行新兴训练和推论任务的性能。AMD希望借此提升LLM在非NVIDIA GPU(即AMD Instinct)上执行GPT模型时,达到接近或超越CUDA/NVIDIA的性能。

AMD并强调Brium成功将其Deep Graph Library(DGL,一种Graph Neural Network框架)移植到AMD Instinct平台,有助于AMD方案打入医学、生物科技、金融和制造领域。

Techcrunch分析,由于现行大部分AI专属软件,都是为Nvidia芯片和硬件设计。通过创建更大开放AI生态系,有助于AMD挑战业界霸主Nvidia。