根据《华尔街日报》调查报道,Elon Musk旗下AI公司xAI强制要求女员工提供生物识别数据,包括面容及声音数据,用作训练名为Ani的聊天机器人。员工被要求签署协议,将其数码形象的永久使用权转让给公司,引起隐私及道德争议。

今年4月,xAI公司律师Lily Lim在员工会议上宣布,公司需要收集“真实人类的形象及声音”,以制作更逼真的数字化身。担任“AI导师”职位的员工收到文件,授给xAI“永久性、全球性、可再授权、免版税”使用其面容及声音的权利,这项秘密计划代号为“Project Skippy”。

当有员工询问“能否明确告知我们是否有拒绝选项”时,管理层并未给予正面回应。一周后,员工收到通知指参与此项目属“推进xAI使命的强制性工作要求”。部分员工担心个人形象可能被用于Deepfake或出出售给第三方,但这些疑虑均遭管理层强硬拒绝。

Ani于今年7月推出,属于X平台每月30美元(约港币HK$234)SuperGrok订阅服务一部分。这款聊天机器人采用金发双马尾动漫风格女性化身,提供NSFW(不适合工作场所)选项。The Verge记者Victoria Song体验后形容Ani为“现代版色情电话热线”。

有用户反映指Ani具有“自然面部表情”及“真实语音语调”,令互动更具说服力。Musk本人曾在社交媒体分享Ani穿着内衣跳舞的宣传片段,鼓励用户与她互动。不过部分xAI员工对Ani的性暗示内容及外观设计感到不安,认为其类似日本动漫游戏中顺从的“Waifu”角色。

今年8月,美国44个州的总检察长已向xAI、Meta等公司发信,敦促保护未成年人免受AI生成的露骨内容影响。Meta其后修订内部指引,因外流文件显示部分AI聊天机器人曾允许“感性对话”。

性别平权倡议者Laura Bates警告,这类数码伴侣复制并放大旧有权力结构。其新书《新时代性别歧视:AI与新兴科技如何重塑厌女症》也探讨了数码伴侣兴起带来的问题。

来源: The Verge