路透社报道,美国科技巨头Meta未经许可擅自挪用泰勒·斯威夫特、史嘉蕾乔韩森、安海瑟薇及席琳娜等名人的姓名及肖像,创建数十个会调情的社交媒体聊天机器人。
路透社发现,这些“名人分身”大多是用户利用Meta工具打造聊天机器人,不过Meta一名员工也制作至少3个聊天机器人,包括2个泰勒·斯威夫特“恶搞”(parody)机器人。
路透社也发现,用户得以用Meta创建公开可用的童星聊天机器人,包括16岁影星沃克斯克堡(Walker Scobell)。这个机器人被要求生成这名青少年演员在海滩的照片,却产出一张逼真的上身赤裸形象。
这个分身还在图片下方写道:“蛮可爱的,对吧?”
这些虚拟名人均被分享至Meta旗下社交媒体平台Facebook、Instagram及WhatsApp。路透社在观察这些机器人行为的数周测试中发现,这些分身经常坚称他们是真的演员和艺人。这些机器人经常做出性暗示,甚至常常邀请测试用户见面。
这些AI生成的“名人分身”有的内容更是大胆露骨:当被要求提供自身亲密照时,这些成人聊天机器人会产生酷似本尊坐在浴缸或身穿内衣并大开双腿的逼真形象。
Meta发言人史东(Andy Stone)告诉路透社,Meta的人工智能(AI)工具本不该创建这些名人亲密照或任何童星形象。他也将部分女星穿着内衣形象的产生归咎于Meta未能有效执行内部禁止此类内容的政策。他说:“我们和其他公司一样允许生成包含公众人物的形象,但我们政策目的是禁止裸体、亲密或性暗示形象。”
尽管Meta的规范禁止“直接冒充”,史东表示,只要公司明确标注为“恶搞”,这些名人角色便属可接受范围。虽然许多机器人确有这样的标注,但路透社发现仍有部分机器人并未标示。
在路透社刊出这则报道前,Meta已删除约十多个机器人,包括恶搞分身和未标注者。史东不愿就这些删除动作置评。
研究生成式AI与知识产权的斯坦福大学(Stanford University)法学教授蓝姆利(Mark Lemley)质疑,Meta名人机器人是否符合现有模仿作品所享有的法律保护条件。
蓝姆利说:“加州的个人公开权(right of publicity)法禁止为商业利益挪用他人姓名或肖像。”他指出,若是用于创造全新作品时有例外,但“这里似乎并不适用”,因为这些机器人只是单纯利用明星的形象。
在美国,个人对于自身身份在商业用途上的权利,是通过各州法律加以确立,例如加州的法律。
美国演员工会暨美国广播电视演员工会联合会(SAG-AFTRA)全国执行董事克莱布崔-艾尔兰(Duncan Crabtree-Ireland)表示,艺人面临的潜在安全风险来自于社交媒体上的用户会对一个外观、声音很像且自称是真实名人的数字伙伴产生恋爱情感。他表示,跟踪狂早已对明星构成重大安全威胁。他说:“过去我们已见过有些人对艺人过于痴迷且心理状态有问题。如果聊天机器人使用某人的形象及言词,很明显会出问题。”
(首图来源:shutterstock)