Mistral AI 28日公布有里程碑意义的环境审计报告,揭示人工智能(AI)隐藏的环境成本。报告全面评估旗舰模型Mistral Large 2,18个月训练期产生20.4千吨二氧化碳,消耗281,000立方米水。正值众企业推动AI保持竞争力,同时面临可持续性压力。

Mistral审计报告为技术决策者提供前所未有数据,AI采购决策时考虑环境影响,过去难以量化。报告指出,训练有1,230亿参数的模型能量,相当于4,500辆汽油车开一年,水消耗量约112个奥林匹克标准游泳池。每次用Mistral的Le Chat查询,会产生1.14克二氧化碳,并消耗约45毫升水,等于种植一颗小萝卜的水量。

经营阶段对环境的影响更明显。训练和推理占85%水资源消耗,远超过硬件制造或盖数据中心环境成本。代表模型用量增加,环境成本就会一直累积。

Mistral研究还提出减少环境影响的可行策略。地理位置对碳足迹有影响,可再生能源和气候较冷地区训练的模型,排放量较低。模型大小与环境成本有强相关性,大模型产生同量标记时,环境影响约高一个等级。

报告建议企业选择模型时,应根据用例选择合适模型,而不是一律采用大型系统;查询分批处理减少计算浪费,并在清洁能源电网的地区部署模型,能降低碳排放。

Mistral透明度策略与竞争对手大相迳庭。虽然OpenAI首席执行官Sam Altman最近声称,ChatGPT查询每次仅消耗0.32毫升水,但缺乏详细方法论使有意义比较更困难。透明度全披露是愿意提供环境资讯公司的机会,使其竞争时能脱颖而出。

这份审计报告确立环境透明度为企业AI市场关键因素。可持续性指标越来越影响采购决策,有详细环境影响数据的供应商将更占优势。透明度使供应商评估更复杂,却能让客户在性能需求与环境成本间取得平衡。

对技术高层来说,Mistral审计报告提供以前无法取得的决策标准。组织现在可AI采购决策时也考虑环境影响,与传统性能和成本指标并列。这些数据使企业更精确计算总拥有成本,将环境外部性纳入考量,未来环境表现可能会与计算性能一样,成为选择AI供应商的关键因素。

(首图来源:Mistral AI)