在今年iThome CIO大调查中,有项企业对于生成式AI浪潮的准备度盘点,不论在数据面、技术架构、战略、风险治理、人才的能力上,多数CIO都自评自家企业的准备远远不够,只有1成企业在数据与战略面有较高的准备度,GAI人才更是严重不足,只有4.6%的企业有足够的人才储备。

就连IT预算向来比其他产业高很多的金融业,也只有17%金融企业做好数据准备,8成金融CIO自认在技术面和战略面的准备不够高,治理与人才的准备度更低。这样结果让我相当惊讶,但又不意外。

生成式AI浪潮带来的影响是根本性的,不只是AI技术面的突破,诸如办公室生产力的提升、程序代码开发辅助、复杂基础架构运维的优化,明显让企业看到成果,甚至改变了不少企业原本的作业模式。

全球零售龙头Walmart,最近在一场财报说明会议中就透露,要维护超过4亿款商品品项的目录非常困难,后来,他们改用生成式AI来处理高达8.5亿笔的数据。“没有生成式AI,在相同时内完成同样作业,需要近100倍人力。”Walmart资深副总裁Stephanie Wissink直言。提高产品目录数据品质的好处,不只可以改善商品搜索和产品推荐,连仓储管理、订单履行到店员服务都能有不小的优化。

Walmart不只将生成式AI用于整理型录数据,更有一款内部员工用的GAI助手,可以回答门店运营管理、库存管理、保险与福利、薪资管理、员工训练等数十种类问题。对外更打造了可提供超级个性化建议的GAI购物助手,也正在开发一款给第三方卖家的客服Chatbot。

不只Walmart,已有许多企业看好,也逐渐找出生成式AI的价值和影响,而不只是赶搭ChatGPT热潮而已。根据我们今年的CIO大调查,高达3成的台湾企业正在尝试和验证GAI技术的各种可行性和场景。

但是,生成式AI窜红到现在,不过短短2年,科技巨头们激烈竞争,纷纷投入庞大资本打造AI硬件设备,来加速大型语言模型的训练,例如Meta用3千台服务器共2万5千颗GPU的超大集群,训练4,050亿参数的Llama 3模型,只花了54天,几乎可以说只花了2个月就能改版。指标性大型语言模型几乎是一年一次大改版,科技巨头更推出各种GAI工具和服务,这些服务也随着大型语言模型改版,而快速升级,甚至翻新。

生成式AI技术和工具的快速演化之快,企业很难有足够资源和人力,跟上科技巨头不断加速的技术竞赛,才刚学会一项GAI技术或工具,可能就开始出现新版本的预览。这也难怪,今年大调查中,几乎很少有CIO认为自己做好了面对生成式AI浪潮的准备。

就算准备不足,企业还是超想用生成式AI,高达4成企业要求CIO将AI创新列为年度目标,生成式AI就是关键。台湾企业几乎没有能力自行从头训练LLM,必须善用科技巨头的技术和服务,将各种云计算GAI技术和服务,串联到自家应用中集成,这又考验企业的IT现代化程度和云原生物科技术力。企业IT必需要能适应高速竞争下快速演化的生成式AI生态圈,以及GAI所连带加速的既有技术领域,例如全新的GAI辅助开发模式。

对新技术的适应力(Adaptability)将会成为企业IT需要的新能力,快速掌握一项新技术的变化,甚至有能力快速套用到自家的开发流程中,集成到自家应用系统中,企业过去在敏捷开发,DevOps、云原生物科技术架构的累积和能力,都会是企业更快速掌握新技术变动的基础。

Walmart也有一套可以应对新技术不断演化的做法,他们打造了一套内部用的生成式AI沙盒(GenAI Playground),提供多种GAI最新开发工具及测试环境,让员工自己尝试GAI,甚至提供了No-Code开发工具,连不熟技术的业务人员也能用GAI来创新,加入新技术的应用和创新的行列。不论GAI技术怎么进化,Walmart这个做法,有机会进一步迈向全员创新,这是企业对新技术展现适应力最好的例子。