《堡垒之夜》修复了人工智能驱动的达斯·维达开始说脏话的问题
《堡垒之夜》游戏开发商 Epic Games 在游戏中添加了一个由人工智能生成的达斯·维达角色,该角色基于已故配音演员詹姆斯·厄尔·琼斯的授权肖像。但事情很快就出了问题,因为玩家能够诱导这个人工智能角色说出种族主义、恐同言论以及脏话。
推出于星期五作为《星球大战》/《堡垒之夜》联动活动的一部分,“Fortnite:银河之战” 达斯·维达在《堡垒之夜》中的对话是由纽约语音人工智能公司 ElevenLabs 创作的。这个人工智能角色能够实时回应玩家。
游戏上线几小时后,社交媒体上就开始流传一些视频,玩家们引诱这位由人工智能驱动的《星球大战》反派说出种族歧视、恐同的辱骂和脏话。玩家们甚至可以让达斯·维达说出听起来像仇恨言论、侮辱或其他脏话的词语或名字。
多名玩家在社交媒体上分享了该角色使用贬义词做出反应的视频。针对其中一个爆红的视频,Epic Games 表示已发布热修复补丁来纠正维达令人意外的新词汇。
该公司表示:“我们立即发布了修复程序,这种情况不会再发生。”写道在 X 上。
在后续邮件中解密,Epic Games 承认在达斯维达加入 Fortnite 之前存在内容审核疏忽。
Epic Games 发言人表示:“虽然我们添加了几条具体规则和说明作为防护措施的一部分,以防止达斯·维达咒骂或重复脏话,但在这种情况下,我们的过滤器没有捕捉到脏话的特定变体。”解密“我们的修补程序专门针对这个词。”
据该发言人介绍,AI 功能包含三层安全过滤器。第一层是 Gemini 的可配置安全设置。第二层添加了系统指令,以防止 AI 生成违反社区规则或可能对玩家造成伤害的响应。第三层是最终审核,用于发现任何剩余的违规行为,例如仇恨或露骨的语言、提及自残或提及危险或非法活动。
AI 生成的达斯·维达是使用詹姆斯·厄尔·琼斯的存档录音创建的。琼斯于 2024 年去世,此前他已将自己的配音授权给卢卡斯影业,使得该角色的形象在他去世后仍能在新媒体上继续展现。
Epic Games 在一份声明中表示:“如果没有詹姆斯·厄尔·琼斯的传奇演绎,达斯·维达就不会如此阴险,他在《星球大战》系列电影中为维达配音。我们很荣幸能邀请已故琼斯先生配音,并感谢他的遗产给予玩家这样的机会。”
自 2023 年以来,该公司拥抱尽管竞争对手一直在努力阻止这项新兴技术,但该公司仍通过其 Epic Games Store 平台开发生成式人工智能创作。
这并非《堡垒之夜》第一次因为 AI 生成内容而引发担忧。2024 年 1 月,Epic 匆忙清理了种族主义的因玩家强烈抗议,Epic Games 决定为用户创建的岛屿添加 AI 图像。当时,Epic Games 表示,所有用户创建的岛屿在发布前都会经过审核员的审核,但团队采取了较为谨慎的措施。
Epic Games 表示:“如果内容违规,我们要求审核团队代表创作者假设其意图良好,这样我们就不会过度审查。”
编辑安德鲁·海沃德
(责任编辑:时讯)
-
每次我看到小二发来消息说:很抱歉,您的商品未通过审核,您的商品跟同期报名的商品相比没有优势,经审核和比较,没有入选本次活动,我真的想把小二拉出来打一顿,你都没让我上一次,怎么知道我的产品没有优势呢...[详细]
-
注:本文由U传播平台Lady_Jeline原创,如需转载,请注明出处,否则禁止转载!(原文链接:http://www.uchuanbo.com/article/catid_22/show_173.ht...[详细]
-
广泛配对广告系列,将所有关键字重新添加完全匹配的否定关键字,这会强制广泛匹配以识别新的/同义词/相关搜索组合。...[详细]
-
10月31日摩根远见两年持有期混合净值增长0.49%,今年来累计上涨18.15%
抛开创业潮的新晋公司来看,其实有众多90后创业公司仅仅几年就能为巨头看中,进而被其收购,这其中的好处显而易见。...[详细]
-
二、网站上线之后就需要针对网站内容进行建设,由于孩子教育都是父母帮忙找甚至报名。...[详细]
-
并且诊疗服务的重点也不是为了优化病人的体验或体现诊疗价值。...[详细]
-
请问武汉住房公积金贷款利率是多少呢?想在武汉申请公积金贷款买房。
大部分复盘都是无效的 三个臭皮匠顶个诸葛亮,而这个世界上唯一比臭皮匠还多的就是事后诸葛亮。...[详细]
-
meme币交易所下载官方app下载 meme币最新版下载ios
文末给正在融资的创业者一个提醒 讲完了这个案例,希望给正在融资的创业者的一个简单的提醒:尽管从行业惯例上来说,专业投资人跟创业者达成意向性的“君子协定”之后,如果没有正当...[详细]
-
这样做可以避免不必要的住院时间延长,降低医疗保险支出。...[详细]
-
10月31日中欧瑾源灵活配置混合A净值下跌0.08%,今年来累计下跌1.18%
现在整个对于用户的分析维度、数据整理,都以变现这个角度去考虑。...[详细]