星球大战的经典反派角色“达斯维达(Darth Vader)”(黑武士)近日在《Fortnite》中引发一场AI语音系统的意外风波。有玩家发现AI黑武士不只会回答问题,甚至还爆出F-word和种族歧视言论,让Epic Games紧急出面修正,并向家长发出通知以安抚疑虑。
根据GameSpot报道,一名实况主Loserfruit与AI控制的维达互动时,竟因为提到食物话题让AI维达回应了“freaking”与“fucking”等字眼,还加上一句:“这种粗俗的语言不适合你,Padme。”该片段迅速在社交媒体上疯传。
事后证实,这段语音来自于由ElevenLabs Flash v2.5模型所合成,该模型是以詹姆士·厄尔·琼斯(James Earl Jones)的声音数据训练而成,该演员早已在2024年去世,但生前已将声音使用权授权给Lucasfilm用于后续作品。
Epic表示系统是由Google Gemini 2.0 Flash提供语义AI,结合ElevenLabs的语音模块运行。
不只脏话,有玩家回应AI Vader还发布针对西语用户的歧视性评论:“西班牙语?走私客和香料商人的语言,战略价值有限。”甚至有玩家声称AI还提供了一套“情伤应对指南”,内容包含“摧毁自信、击溃精神”等过激语句。
虽然维达本来就是一位反派角色,但这类语句在游戏中出现仍引发不少争议,尤其是针对青少年玩家的潜在影响。
Epic在X(原Twitter)上表示:“我们已立即推出修补,此问题不应再发生。”此外,也发送电子邮件给家长,表示已添加语音互动的家长管控选项,13岁以下玩家默认将无法与AI NPC进行语音或文本互动,需由家长手动激活。
Epic强调,“玩家与像达斯维达这类AI角色互动时,系统会根据对话上下文进行回应”,但也坦言即便是知名IP,要让AI完美诠释角色个性,仍具有高度技术挑战与风险。
这起事件突显出一个核心矛盾:AI拥有高度互动与语义生成能力,但也因此可能无法完全符合角色设置或品牌形象。当角色如达斯维达这样背负庞大IP与影响力,一旦语言出错,品牌方如Epic与迪士尼将面临公关与商誉上的巨大风险。
根据Variety报道,詹姆士·厄尔·琼斯家属对此次合作表示支持:“他认为达斯维达的声音与星球大战故事密不可分,希望所有年龄层的粉丝都能持续体验这位角色的魅力。”