迈向Gemini 2.0的同时,新一代Project Astra将是Google探索通用AI助理未来功能的研究雏型。与此同时,Google新推出Project Mariner和Jules,积极扩大AI代理(Agent)的应用和开发。
Project Astra利用Gemini 2.0打造的新一代Project Astra研究项目,互动体验有所提升。Project Astra能够结合Google搜索、智能镜头及地图等,如同一般人在日常生活的使用方式。
Project Astra现在能以多种语言和混合语言方式进行流畅对话,可理解不同的口音和不常见的词汇。不只如此,通过新的流媒体能力和原生音频理解,AI代理能以与人类对话大致相同的延迟来理解语言。
Google改善Project Astra记忆能力,能够记忆长达10分钟的内容,并且记住过去用户与它的更多对话。有了更强的记忆能力,Project Astra更加个性化。
Google以一段日常场景视频展示新一代Project Astra,用户通过Pixel手机的麦克风、音箱及镜头来与Gemini互动。比方说,识别并解释衣物上的洗衣标示,教导如何使用洗衣机;说明不同地区“司康”(scone)的发音差异;从朋友的读书清单归纳出阅读喜好,同时识别镜头拍下的选书适不适合送给朋友;识别路上的公共汽车是否能到目的地,路上会经过哪些地点。除英语外,也以法语、坦米尔语测试Project Astra。
不只如此,Google还以原型眼镜产品来展示新一代Project Astra,例如询问待会是否下雨,询问路旁景点,询问回家路途是否经过超市。
如此看来,Google对智能眼镜抱有期待,新推出的Android XR可用在智能眼镜,如能结合Project Astra各式应用,有机会取代手机成为下一个主流消费性电子产品。
Google展示新一代Project Astra。
Google认为真正实用的虚拟助理,必须像人一样理解并回应复杂且瞬息万变的世界,能够收集和记忆所见所闻,理解脉络并采取行动;还要有主动性、可训练而且个性化,这样才能和用户自然而然、顺畅无碍地互动。
年中Google I/O 2024开发者大会推出Project Astra以来,Google一直从受信任的测试者使用Android手机的情况汲取经验,用户宝贵的意见反馈帮助Google更了解如何实际应用通用AI助理,结合Gemini 2.0后可让通用AI助理体验更好。
Project Mariner & Jules除Project Astra外,Project Mariner是另一项使用Gemini 2.0的研究雏形,从用户的浏览器探索人机互动的未来。
Project Mariner能够理解和推理浏览器屏幕中的资讯,包括文本、图像、表单、程序代码等元素,然后通过实验性的Chrome扩展程序,用现有资讯完成繁琐的多步骤任务。
Google DeepMind团队展示Project Mariner具体应用。
受信任的测试者现在开始使用Chrome扩展程序测试Project Mariner,目前虽无法全部准确,而且完成任务的速度很慢,但随着时间演进,Project Mariner的能力可获得改善。
最后,Google新推出的Jules是一项实验性、由AI驱动的程序代码代理,直接集成至GitHub工作流程。
与只会提出程序代码建议的AI助理不同的是,Jules可在GitHub以自主代理运行,它分析程序代码数据库、执行综合修复计划,可同时对多个文件调试和修复。它能在开发者的指导和监督下制定并执行计划、解决问题。
(首图来源:视频截屏)