在科技界,Tiiny AI最近推出了一款被金氏世界纪录认证为全球最小的个人AI超级计算机Tiiny AI Pocket Lab。这款设备的尺寸仅相当于一个移动电源,却具备运行高达1,200亿参数模型的强大性能,挑战了传统超级计算机的界限。

Tiiny AI的Pocket Lab专为研究人员、爱好者及日常用户设计,旨在将服务器级的运算能力缩小至手掌可握的大小。与市场上其他小型超级计算机相比,如NVIDIA的Project Digits和DGX Spark,这款Pocket Lab的价格更具吸引力,让更多用户能够接触到先进的AI技术。

根据GTM总监Samar Bhoj的说法,当前AI的瓶颈不在于运算能力,而在于对云计算的依赖。他强调,智能不应该属于数据中心,而应该属于人们。Pocket Lab的设计旨在减少对云计算的依赖,提升隐私性,并让先进的AI技术变得更为个性化。

这款Pocket Lab的尺寸为14.2×8×2.53厘米,重量仅300克,搭载了最新的ARM v9.2 12核CPU,并支持多种流行的开源模型,如GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi。其内部配备的神经处理器(NPU)能够提供190 TOPS的运算能力,并拥有80GB的LPDDR5X内存,这使得大型模型能够在本地运行,而不必依赖云计算基础设施。该设备还配备了1TB的固态硬盘(SSD),有助于存放大型模型与数据。

此外,Tiiny AI还在系统中集成了两项关键技术:TurboSparse和PowerInfer。TurboSparse是一种神经元级的稀疏启动方法,能在不降低模型智能的情况下提高推理效率;而PowerInfer则是一种异构推理引擎,能够将AI工作负载分配到CPU和NPU上,实现服务器级的性能,同时保持低功耗。系统的典型功耗约为65瓦特,CPU TDP约30瓦,内置主动散热系统,保证长时间运行稳定。

Tiiny AI计划在2026年CES展会上展示这款设备,虽然目前尚未公布价格和发售细节,但业界将密切关注这款小型超级计算机在实际用户中的表现。根据Tiiny AI引用的Grand View Research数据,全球大型语言模型市场2025年估值74亿美元,预计2030年增长至354亿美元,Pocket Lab瞄准“个性化AI”市场,强调减少对云计算依赖,提升用户隐私与本地智能。

(首图来源:Tiiny AI)