Google周二(11/11)推出了Private AI Compute,在云计算创建受保护的执行环境,使Gemini大型模型能在隔离环境中处理敏感数据,并维持与设备端接近的隐私标准,如同苹果Apple Intelligence所使用的Private Cloud Compute。

Google解释,AI正在变得更有用、更个性化,也更主动。它不再只是完成指令,而是能预先推测用户的需求,在适当的时间给出个性化建议,或代替用户处理任务。这种能力的提升,需要更高端的推理与大量运算,有时已超出设备端所能负担。这使得Google必须把推理放置云计算,但又不能将数据暴露给Google或工程师,Private AI Compute应运而生。

Private AI Compute的核心目标是让云计算大型Gemini模型能够处理高度敏感的个人数据,但数据只属于用户,Google也无法访问;此外,云计算数据在被模型短暂推理之后就会立即销毁。

为了实现Private AI Compute,Google打造了跨CPU与TPU的受保护执行环境,借由CPU端的AMD SEV-SNP安全环境,以及TPU端的Titanium Intelligence Enclave(TIE),将内存的数据全程加密与隔离,工程师也无法利用调试工具介入或偷窥。

此外,所有数据只能在可信节点中解密及运算,且节点之间必须通过双向远程验证才能创建加密信道,任何未经验证的节点都无法加入推理流程。系统还缩减了可信运算基底(Trusted Computing Base,TCB),仅让最必要的组件可接触敏感数据。对于需要统计分析的场景,系统则使用机密联邦分析(Confidential Federated Analytics),仅输出差分化的匿名统计数据,以避免暴露个人信息。

为使隐私保证可被外部验证,Google允许第三方对系统进行安全与隐私审查。Private AI Compute的服务器与重要组件采用二进制透明度(Binary Transparency),所有可执行文件的SHA-256摘要会先行公布在公有账本,且仅允许经过验证的二进制运行于受保护环境。

Pixel10为首批采用Private AI Compute的产品,让即时场景建议功能Magic Cue可在更正确的时间,给出更精准的建议,也能让跨语言摘要Pixel Recorder可支持更多语言、处理更长的录音内容,并针对较复杂的内容产生更结构化的摘要。