继Perplexity近期推出的Comet浏览器AI助手引发关注后,Anthropic宣布推出“Claude for Chrome”实验性浏览器扩展功能,目前开始邀请部分用户参与封闭测试,这是将Claude助理直接集成进网页浏览器的新尝试。

Claude for Chrome以Chrome扩展功能的形式运行,可于侧边面板实时显示Claude并与网页内容互动,包括阅读页面、点击按钮、填写表单等功能。在内部测试环境中,Claude已协助用户完成日历管理、调度会议、撰写电子邮件回复、处理费用报表,甚至协助测试网站功能,展现出潜在的操作便捷性与效率提升。

Anthropic强调,让AI进入浏览器的操作并非无风险。他们指出,应对在浏览器中使用AI代理可能遭遇的“prompt injection”(提示注入)攻击,正搭建更严谨的安全防线。举例来说,如果允许Claude读取Gmail收件箱并回复邮件,恶意行为者便可在邮件内容中隐藏指令,在测试中也发现,指令声称出于安全原因,需要删除邮件,在处理收件箱时,Claude按照这些指示,未经用户确认就删除了用户的电子邮件。

Anthropic也进一步分享到在安全防护的测试中,若未采取防御措施时,Claude在123个攻击案例中有高达23.6%的成功率执行恶意操作,如无确认即删除电邮等。引入安全防护后,该成功率已降低至11.2%,尽管有所改善,但Anthropic表示这仍不足以广泛开放,仍有提升空间。而为防范风险,他们采取的防御策略包括:

Anthropic表示,推广这种具备浏览器操作能力的AI助手,需创建更广泛的攻击案例数据库与防御经验,目前通过封闭测试不断强化安全设计。

因此,Claude for Chrome预览版现在以邀请制形式开放,仅限Max计划(每月约100-200美元)并获邀的1,000名受信用户试用。想加入的人可前往登记等候名单,通过后便可从Chrome Web Store安装扩展功能并登录使用。官方提醒,用户应谨慎选择让Claude执行操作的环境,建议先于非敏感网站试用,避免在金融、医疗、法律等高风险领域使用,以保障资讯与移动安全。