IT现代化是企业数字转型的前一波焦点,尤其是云原生物科技术和在K8s容器化技术的采用,是资讯基础架构最重要的转型方向。但在生成式AI爆红之后,随之而来的代理型AI应用快速崛起,甚至掀起一股,未来每一个应用系统都是生成式AI的应用,这也带来了软件开发与资讯基础架构运维的新课题。
但在这一波生成式AI浪潮中,在资讯基础架构技术产业中,除了三大公有云积极带头拥抱生成式AI之外,其余资讯基础架构企业,对于生成式AI技术的着墨较少,尤其是过去高度聚焦IT现代化需求的传统虚拟化龙头VMware产品,如何应对生成式AI浪潮,Broadcom(博通)亚太与日本区总裁Sylvain Cazard日前来台,对台湾企业说明VMware产品的下一波方向。
博通在2023年11月完成VMware并购后,隔年7月卖掉了用户端运算业务(End-user Computing),专注于私有云软件产品的发展。当博通收购VMware时,就包括了三个开发中的VCF版本(2024年7月版,2025年3月版和2025年7月版),除了部分在2024年发布,其余计划于今明两年推出。
VMware相关产品现在已经是博通基础架构产品的主力,从博通年度总净收入就可以看到VMware的影响。博通年度总净收入中,基础架构软件部门的比重,从2023会计年度的21%,在2024年度几乎翻倍增加到42%的比例,金额也从76亿多美元,大幅提高到214亿多美元,增加的收入主要来自VMware的贡献。
过去一年多来,博通一方面将VMware相关产品的销售模式,转为订阅制,另一方面也大力简化产品组合。目前VCF销售策略采取订阅制,可支持软件授权移动,可在内部数据中心和云计算环境中转移,来提高对混合云架构的支持。
根据今年初,博通第一季电话会议披露的数据,博通基础架构软件业绩,在第一季达到67亿美元,比前一年增加了快5成,主要来自将永久授权转换成完全订阅制的销售,目前有60%企业顾客已经转换到订阅制。永久授权的产品主要是vSphere,博通现在则力推用于全部据中心虚拟化的VCF产品。统计到2025年第一季,用量最多的前1万家企业顾客中,已有70%采用VCF。Sylvain Cazard补充,台湾也有大型银行,政府机构开始导入VCF,台湾企业市场正处于转换到订阅制的过渡阶段。
不过,在博通宣布VMware转为订阅制后,后续软件授权相关做法,往往成为众人关注的焦点,过去一年来,引发了几次授权热议的事件。
博通很清楚,数据中心虚拟化需求的变化,决定了博通软件业务的发展,越多企业将运算工作负载转移到公有云,就会限制本地数据中心虚拟化产品的市场规模。
博通预估,随着大型企业导入AI,需要在本地端数据中心执行AI工作负载,包括GPU服务器和传统CPU。博通和Nvidia合作,打造了一个VMware Private AI Foundation软件产品,让VCF也将成为GPU虚拟化的通用平台,让企业能像运在传统CPU虚拟化一样,在本地端部署AI模型来处理自己的数据。目前有39家企业采用这套新软件产品。
Sylvain Cazard表示,不只台湾,全球各地的企业都在重新平衡公有云和私有云策略,尤其是政府,银行和电信企业,为了数据主权考量和成本考量,重新聚焦私有云的发展。
他观察,一方面因为,将应用程序搬迁到云计算的复杂度很高,另一方面是因为生成式AI浪潮,企业有机密敏感数据的考量,所以,“企业想要让私有云增加生成式AI的能力,来测试GenAI的价值。”换句话说,对私有云来说,就需要同时执行传统CPU的应用和容器化的应用,以及最新的生成式AI应用需求。
Sylvain Cazard认为,不论是想要测试AI案例,或要支持适合的成熟GenAI应用,企业需要像是管理CPU工作负载般的能力,来管理GPU工作负载,包括了在安全、备份、调度等方面的管理能力。
“博通的挑战是,要满足具有这类需求的企业,来提供一套企业等级的平台,不仅能支持Nvidia GPU,还要能用API来运用市场上各种不同的LLM。”他强调。
Sylvain Cazard观察,企业目前常见GAI用法是,订阅公有云企业提供的大型语言模型,再将模型放到地端私云环境中,进行微调和优化。一种做法会采用整套式的NvidiaGPU产品,另一种做法是各种他厂服务器中搭载GPU。目前常见的私有企业AI架构,可分成两大类用途,一类是完全集成到CUDA架构,完全靠Nvidia来打造企业AI。另一种是则用于推论端的工作架构。
因为VMware产品本来就具备GPU虚拟化的技术,VCF可以直接提供GPU虚拟化,例如一个集群有16个GPU节点,VCF可以让不同需求共享这些GPU资源,用于训练或用于推论,等于可以优化企业的GPU利用。Sylvain Cazard表示:“不少企业看上这一项能力而开始转向VCF,台湾有不少企业如此。”
不过,Sylvain Cazard认为,虽然企业对GPU的需求提高了,但有些模型只需要CPU处理就够用,如何分配算力需要经验。再加上,训练模型,需要一定的数据处理技巧和人员能力。“我们认为市场发展还不会那么快,企业可以先用VCF打造自己的架构,用企业原本就熟悉的安全管理做法,来使用GPU资源。VCF可以让你像使用CPU算力一样地用GPU算力。”
他举例,台湾有家超大型高科技企业,就是用VCF来将GPU集群虚拟化。过去是要针对不同部门来分配不同的集群,现在可以依照使用时间来切割使用权,让GPU资源取用也能达到多租户的效果。
VCF的目标不只如此,传统的AI应用多半在VM中执行,而新兴的生成式AI则惯用容器来执行。“可以让这两种需求取得CPU和GPU资源,不需要两套平台。”Sylvain Cazard表示:“推论是企业未来主要的AI工作负载,这是CPU也能做到的工作。”不过,他认为,企业AI需求的爆发潮,可能还要1、2年,现在还是非常早期的阶段。
2年前,VMware和Nvidia合作发布的这套VMware Private AI Foundation,在2024年5月发布正式版,这就是一套VCF的插件模块。
今年,博通即将推出新一代的VCF 9版,产品定位的价值一样锁定了企业算力需求,VCF 9新版的主要API也会开放,可以用来集成各种新兴的开源模型。而VMware Private AI Foundation发展蓝图也将瞄准企业未来的推论需求趋势,成为一个中间层,连接各种基础架构资源,让企业集成到不同的大型语言模型。
虽然代理型AI今年爆红,不过,Sylvain Cazard表示,VCF不会特别支持半年多前爆红的MCP,“我们不会特别锁定一项技术来发展,而是瞄准企业一直存在的私有数据保护需求。未来将会有各种优化模型和提示的方法,关键是在,这都要在私有云环境中执行。”
Sylvain Cazard表示,VMware的产品策略是,尽可能对不同需求进行优化,让资源尽可能地开放,企业可以靠惯用的管理方式、安全机制和平台来管理这些算力资源。
目前VMware则正尝试用GenAI改善对顾客支持,让技术支持更简单易用,“就像银行客服一样,我们想要用GenAI提供更准确的回答给顾客,这是我们运用GenAI的第一优先重点。”他说。
例如一款产品版本升级时,如何评估对其他产品兼容性的影响,这类数据分散在不同的来源,过去得靠专家汇集整理才能提供意见,博通希望可以集成这些答案,更快速提供给顾客。
除此之外,VCF未来也会提供一个对话式的调试平台,因为不少企业将运算、存储、网络都通过VCF平台来管理,遇到故障宕机,经常寻求VMware的支持服务,VMware拥有许多不同基础架构不同层面的调试经验,博通将集成过去累积的大量案例,来打造这个调试平台。