
接下来我们来看看GIGABYTE AI TOP ATOM的硬件设计,以及NVIDIA DGX操作系统与独家支持的AI TOP Utility公用程序。
NVIDIA推出的DGX Spark由先前的Project DIGITS计划改名而来,NVIDIA也开放多家合作伙伴推出能够强化散热设计的定制化机型,笔这次借测的机型为GIGABYTE AI TOP ATOM。
AI TOP ATOM的规格基本上与DGX Spark一致,最大的差异在于它直接将固态硬盘的容量攻顶至4TB,方便用户存储更多AI模型或是训练数据库。
另一方面,AI TOP ATOM除了与DGX Spark一样支持所有NVIDIA提供的软件堆栈之外,也独家支持AI TOP Utility公用程序,提供方便的系统资讯仪表板、AI模型微调工具,以及大型语言模型(LLM)与图像生成等AI推论工具。

NVIDIA自家推出的DGX Spark采用与DGX-1超级计算机相近的造型,并缩小至可以放置于桌面上。

GIGABYTE AI TOP ATOM的包装透露产品定位为个人AI超级计算机,并标示由NVIDIA加速(Accelerated by NVIDIA)。

AI TOP ATOM机身正面有大型散热进气口,外观设计相当低调。

机身背面则为散热出风口,左起为电源键、Type-C电源输入、3组USB Type-C、HDMI 2.1a、10 GbE RJ-45以太网络,ConnectX-7智能网络适配器等端子。

AI TOP ATOM搭配的电源供应器功率高达240 W,采用USB Type-C界面以及Power Delivery 3.1规范。

右下角的ConnectX-7智能网络适配器采用QSFP界面,具有高达200 Gb/s的超高带宽,并可用于串联2台主机。

串联2台DGX Spark之后能够让统一系统内存容量扩展至256 GB,进而将原本仅支持参数量为200B的模型,扩展至能够支持405B参数量的模型。
DGX Spark的一大优势为搭载Blackwell架构的绘图处理器(GPU),在软件层面能够与NVIDIA生态系统中的个人计算机、服务器、云计算服务兼容,因此不但能够执行相同的AI应用程序,也能将在DGX Spark上开发、测试完成的程序快速部署到上述机器。
另一方面,容量高达128 GB的统一系统内存也让DGX Spark能够训练、微调、执行参数量更大的AI模型,提供高于显示内存容量仅有用32 GB的GeForce RTX 5090显卡的应用弹性。
(笔者注:一般情况下若内存不足以加载模型或是对应文件,将会出现称为Out of Memory的错误而导致完全无法完成工作,而不是仅是性能降低而已。)
NVIDIA分析AI发展的趋势与突破包含更大的模型与数据库、模型微调、模型量化与修剪、多模态模型、推理式模型、以及代理式AI。
DGX Spark系列产品具有完整的开发环境与软件堆栈,能够支持多数主流模型、应用程序、运算框架。
DGX Spark适合应用于开发AI应用程序、微调模型、AI推论运算、数据科学、机器人、计算机视觉、视觉语言模型等应用。
DGX Spark也支持Cursor、VS Code、AI Workbench等多数热门开发环境,编译的程序能够直接兼容于Blackwell架设云计算主机。
DGX Spark搭载容量高达128 GB的统一系统内存,更适合用来微调模型。举例来说微调FLUX 12B模型将占用近110 GB内存。

DGX Spark也能适合AI推论运算,例如执行Cosmos Reason1视觉语言模型。
大容量统一系统内存对AI图像生成也很有帮助,例如例用FLUX1 .Dev 12B模型(FP16数据类型)生成1K分辨率图像将占用近35 GB内存,超过GeForce RTX 5090显卡的32 GB。
NVIDIA也提供了多项DGX Spark的性能数据。











