日月光半导体年底将激活首座全新的水冷散热数据中心,这座新机房不仅将成为PUE低于1.2的节能机房,还是一座拥有强大AI运算能力的AI节能机房,目标是要能应对每年1.2倍增长的AI运算需求,以应对未来两年不断增长的AI应用及LLM(大型语言模型)发展所需。

日月光很早展开了数字转型,朝向智能工厂来转型,2018年开始导入AI,逐步将AI应用于制程中,提升良率与生产性能。日月光同年建造第一座关灯智能工厂,并在接下来4年内将关灯工厂增加到36座。随着AI应用日益成熟,日月光在2021年构建IAI(Industry AI)平台,大力推动AI全民化应用,进一步将AI应用从内场景制造推向组织内部,从智能安全、品质检验、智能诊断,到智能设计、参数优化以及智能运营等领域。

日月光半导体高雄厂副总李政杰表示,目前,日月光的AI应用主要集中在制造端,结合深度学习和大数据,搭配自动化机器人技术,提升生产性能。此外,AI也应用于厂务节能减碳等环保项目。

近来红火的生成式AI技术,日月光也开始导入,主要应用于两方面,一是协助行政单位处理大量文书和形象,减少人力负担;另一方面,在工程领域中,利用生成式AI生成多样的研发样本,帮助工程师提高研发新原型的成功率。

尽管AI需求呈现指数型增长,对机房运算需求也越来越大,可是,运算增长同时也带来温室气体排放的增加,光靠现有机房设计已经难以应对其需求而必须采用新做法。

尤其近几年,ESG可持续发展已成为了企业必须重视的重要议题,日月光自己承诺2030年办公室净零,2050年生产制造据点净零的目标。为了每年需降低5~10%温室气体排放,如何兼顾AI需求和ESG可持续发展,成了日月光IT面临的重要挑战,所以日月光决定打造新一代水冷散热IT机房,来应对这项挑战。

日月光即将在高雄激活的AI新机房,将采用Supermicro的水冷式散热技术,由中华系统集成进行部署,在这座新机房中引进新一代水冷AI服务器及节能技术。

李政杰表示,新机房导入水冷式散热设计,不仅利用服务器本身的水冷机制,让冷水通过主板快速带走热能,取代过去气冷式机房的冷热信道散热方式,此外,机柜设计上创建水冷散热机制,集成了散热板、冷却分配单元(CDU)、冷却分配分流管(CDM)以及搭配冷却塔,可帮助其降低机房温度、耗电量以及整体总能耗。

李政杰指出,与传统气冷式机房相比,新一代节能机房采用水冷散热技术后,能耗可降低20%以上,预期PUE值将从1.51下降至1.2以下。这样不仅节能,也有助于减少碳排放。

在这座AI机房中,未来将部署多台AI服务器机柜系统,根据Supermicro提供的硬件规格,每台AI服务器主机内搭载了2个32核Intel CPU与8个Nvidia H100 GPU。李政杰表示,这座新机房激活后目标是满足年增113%的AI算力需求,未来将开发新的AI应用,用于产品生产、工程研发以及运营上,加速推动智能制造。