
美国Deep Tech初创公司Tiiny AI推出获健力士世界纪录认证、全球最小个人AI超级计算机Pocket Lab。产品尺寸仅14.2×8×2.53厘米,重约300克,大小相当于一个移动电源,却能运行高达1,200亿参数大型语言模型。Tiiny AI这款设备主打完全脱机运算,挑战目前AI运算高度依赖云计算数据中心现状,期望能为用户提供更高隐私保障及能源效率。


Tiiny AI全球市场总监Samar Bhoj表示,当前AI发展瓶颈不在于运算能力,而在于对云计算依赖。他强调智能运算应归用户所有而非数据中心,Pocket Lab设计目标是将服务器级运算能力缩小至手掌大小,令先进AI技术更个性化。设备所有运算均在本地完成,用户数据存储在设备内并采用银行级加密标准,有效解决云计算AI带来的隐私风险、能源成本上升及网络连接中断等问题。
Pocket Lab搭载最新ARMv9.2 12核心CPU及异构AI模块,提供约190 TOPS运算能力,配备80GB LPDDR5X内存和1TB SSD固态硬盘。设备支持GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi等多款开源模型,并可一键部署OpenManus、ComfyUI、Flowise等AI Agent框架。系统集成两项关键技术:TurboSparse采用神经元级稀疏激活方法提升推理效率,PowerInfer则是异构推理引擎,将AI工作量分配到CPU和NPU,实现服务器级性能同时保持约65W典型功耗,远低于传统GPU配置。
相比市场上其他小型AI运算设备,Pocket Lab定位更具吸引力。NVIDIA推出的DGX Spark(前身为Project Digits)售价3,000美元,功耗170W,支持最高200亿参数模型,内存带宽273 GB/s。Pocket Lab主打100亿至1,000亿参数“黄金区间”,涵盖超过80%实际应用场景,并可扩展至1,200亿参数,提供媲美GPT-4o博士级推理及复杂多步骤分析能力。
Tiiny AI于2024年成立,团队成员来自MIT、Stanford、HKUST、SJTU、Intel和Meta,研究成果曾发表在SOSP、OSDI、ASPLOS和EuroSys等学术会议,2025年获得数百万美元种子轮融资。根据Grand View Research数据,全球大型语言模型市场2025年估值74亿美元,预计2030年增长至354亿美元,年复合增长率达36.9%。Tiiny AI计划于2026年CES消费电子展展示Pocket Lab,惟目前尚未公布具体售价和发售日期。
数据源:TechNews, DigitalTrends











