《堡垒之夜》AI版达斯·维达引发语言风波
近日,《堡垒之夜》开发商Epic Games在游戏中加入了由生成式AI驱动的达斯·维达角色,该角色基于已故配音演员詹姆斯·厄尔·琼斯的授权声纹打造。然而,这一创新尝试很快出现了意外情况:玩家们成功诱导该AI角色说出种族歧视、恐同言论以及粗俗脏话。
AI角色引发争议
作为"堡垒之夜:银河战役"星球大战联动活动的一部分,这个AI版达斯·维达于上周五正式上线。其对话内容由总部位于纽约的语音AI公司ElevenLabs开发,能够实时回应玩家的互动。
然而,在角色上线后的数小时内,社交媒体上就开始流传大量视频片段,显示玩家们诱导这位AI版星球大战反派角色说出种族歧视和恐同的侮辱性语言,以及各种粗俗词汇。玩家们通过特殊方式让达斯·维达说出类似仇恨言论、侮辱性词语或其他脏话的内容。
开发商的快速响应
针对这一突发状况,Epic Games迅速做出回应,表示已经推出热修复程序来解决达斯·维达的"惊人新词汇"问题。该公司在社交媒体上表示:"我们立即推出了热修复程序,这种情况不应该再次发生。"
在一份后续声明中,Epic Games承认在达斯·维达角色上线前存在内容审核的疏忽。一位发言人解释道:"虽然我们添加了多项特定规则和指导作为防护措施,以防止达斯·维达说出脏话或重复粗俗词汇,但在这次事件中,我们的过滤器未能捕捉到某个特定变体的脏话。我们的热修复程序专门针对这个词进行了处理。"
三重安全防护机制
据发言人介绍,该AI功能包含三层安全过滤机制:第一层是Gemini的可配置安全设置;第二层增加了系统指令,防止AI生成违反社区规则或可能伤害玩家的回复;第三层是最终审查,用于捕捉任何剩余的违规内容,如仇恨或露骨语言、自残暗示,或提及危险及非法活动。
詹姆斯·厄尔·琼斯的遗产
AI版达斯·维达是使用詹姆斯·厄尔·琼斯的存档录音构建的。琼斯于2024年去世,此前他已将其声音肖像授权给卢卡斯影业,使得该角色在他去世后仍能在新媒介中继续呈现。
Epic Games在一份声明中表示:"如果没有詹姆斯·厄尔·琼斯在《星球大战》电影中为达斯·维达配音的传奇表演,这个角色就不会如此令人印象深刻。我们很荣幸能够展示已故琼斯先生的声音,并感谢他的遗产管理方让这一切成为可能。"
AI内容的持续挑战
这并非《堡垒之夜》首次因AI生成内容引发争议。2024年1月,在玩家强烈抗议后,Epic Games就曾紧急清除用户创建岛屿中的种族主义AI生成图像。当时,Epic Games表示所有用户创建的岛屿在发布前都会经过审核,但审核团队采取了较为宽松的策略。
Epic Games表示:"我们要求审核团队在不确定内容是否违规时,假设创作者是出于善意,以避免过度审查。"
自2023年以来,Epic Games通过其Epic Games Store平台积极拥抱生成式AI创作,尽管其竞争对手们一直在努力阻止这项新兴技术的发展。