雷火竞技首页

AI Dungeon引发争议:超31%生成内容涉暴力色情GPT-3模型的双刃剑!

小编

  在当今快速发展的人工智能时代,科技的每一次进步都伴随着新的挑战与道德困境。AI Dungeon,这款风靡全球的在线角色扮演游戏,利用OpenAI的GPT-3模型为玩家提供无法预测的虚拟冒险。然而,近来有关其生成内容的争议如洪水般涌来——令人震惊的是,超过31%的生成文本竟涉及暴力和色情内容,这无疑给整个行业敲响了警钟。

  AI Dungeon由创业公司Latitude于2019年推出,基于经典的《龙与地下城》开发。游戏的核心理念是让玩家通过输入动作和对话来控制剧情发展,AI算法根据玩家的输入实时生成个性化的冒险内容。随着GPT-2完整版本的发布,Latitude于2019年12月推出了AI Dungeon 2,该版本迅速吸引了超过10万名玩家,成为AI文本生成应用领域的明星。

  不久后,玩家们开始发现AI Dungeon生成的内容逐渐趋向不当。当用户输入一些“阴暗”的关键词时,AI不仅进行了逼真的角色互动,甚至主动引入了性相关话题。这一情况引发越来越多玩家的不满。

  OpenAI对此作出回应,表示内容审核是必要的。他们的CEO指出,生成不当内容并非他们期望的人工智能发展方向。尽管如此,随着时间的推移,玩家的怀疑和不满声越来越高,甚至有用户在Reddit平台上分享了让人不适的实例。

  面对日益严峻的内容审核问题,Latitude迅速上线了新的内容审核系统,以控制生成的文本内容。可是,这一系统并未如预期般受到玩家欢迎。有些玩家指出,该系统对某些无辜的词汇也进行了警告,妨碍了他们的创造力。在Reddit社区中,一名玩家以“Mimi”身份表示,内容审核系统扫描和审查虚构文学内容的做法让社区感到陌生。

  直面玩家的愤怒,Latitude决定继续发挥AI Dungeon的创意潜能,并修订过滤系统。尽管如此,一些用户仍然认为,这些措施影响了创造的自由,损害了玩家的体验。

  值得注意的是,GPT-3模型背后庞大的数据集不可避免地包含了不适合儿童的内容,尤其是在面对庞大的玩家群体和丰富的用户输入时,这一问题显得尤为突出。在爬取网络文本时,模型难以辨别哪些是适合的,哪些又是应当屏蔽的。这种生成的多样性本身是AI的优势,但也同时成为模型的隐忧。

  匿名玩家利用游戏中的一个安全漏洞,下载了短短四天内生成的42万份冒险故事,并进行了分析,结果显示其中超过31%包含不当内容,这一结论引发了激烈讨论。尽管负责相关数据的团队表示已经修复漏洞,但对于导致的玩家流失以及品牌形象的影响仍令人堪忧。

  如何合法且负责地使用人工智能技术是科技公司必须应对的挑战。在AI的开发与应用过程中,伦理与道德责任并非简单的附加品,而是必须被纳入设计之初。AI Dungeon引出的争议,让我们开始思考更深层次的问题:在追求技术进步时,人类社会应如何设定界限,以确保技术的发展不会偏离道德与伦理的轨道?

  人工智能有潜力推动创意与艺术的革新,但若不加以制控,又可能滋生出意想不到的负面影响。未来的AI创新应更加注重开发者与使用者之间的道德和共识,才可有效引导此技术健康、可持续的发展。

  这一场关于科技与伦理的辩论,仍在进行中,而它背后隐藏的深意,将在更多的AI应用中逐渐显现。返回搜狐,查看更多