利用机器学习,《英雄联盟》恶意言论处理周期降低至数分钟

人工智能正成为重塑产业效率的利器。在安防、金融、医疗、法律、教育等信息化程度高的领域，那些机械性、重复性高的劳动正逐渐被机器部分替代。在基本上完全数字化的千亿没有规模的游戏行业，人工智能是否有可能产生更大的影响？

这个问题我们也很好奇，于是打算系统地做一系列的行业研究和梳理。

吸引我们做这个系列的原因并不复杂。一是因为游戏行业巨大的市场规模和可观的营收及利润。2016年全球电子游戏收入首次突破1000亿美元，中国游戏玩家达到6亿人，市场规模达到246亿美元，超过了美国的241亿美元。一是因为游戏行业的数字化程度非常高，数据量也十分可观，除了游戏本身全部是电子化的，一款DAU在百万的游戏每天产生的文本日志数据至少可以达到数十G，基于游戏的网络舆情数据也未能得到有效挖掘，这意味着AI也有可能发挥价值。

本文是这个系列的第三篇，主要介绍了Riot Games 的《英雄联盟》 利用人工智能处理恶意言论的案例。本文的内容主要来自Technology Review2015年时的采访，时效性并不强。


2016年9月，《英雄联盟》的Riot Games在接受BI采访时称，《英雄联盟》月活跃用户超过了1亿人，是当时全世界最大的游戏。对于有如此众多用户的一款网络游戏而言，如何高效、高性价比的对用户言论进行监控和引导也非常必要。2015年，Riot Games接受Technology Review 采访时，也介绍了公司利用人工智能技术监控引导用户言论的尝试及效果。

为了监控玩家的恶意言论，Riot Games开发了一个名为 Tribunal 的管理系统监控、确认恶意言论，然后采用“众包”的方式再次进行确认。一般来说，玩家的恶意言论一旦被确认后，就会被编入一个档案中，社区中的玩家（当时有6700万人）可以查看档案，并投票表决哪些可以接受，哪些不能接受。Riot Games后来发现，这个系统其实还是非常精准的，玩家社区 98% 的决策与 Riot 的内部决策是一致的。不过，一般来说，这个过程往往需要一周的时间。

后来，Riot Games为了优化流程，就决定采用机器学习的技术，加速处理的过程。当时，官方就表示，采用机器学习技术，已经可以支持15中语言，区分消极言论和积极言论，确认恶意言论的时间也从一周降低到了5分钟。

当然，Riot Games的终极目的还是希望这些玩家“知错能改”。因此，会在惩罚玩家的时候，给出相关的恶意言论的证据，在没有采用机器学习技术前，一般用户的“改错率”可以从 50% 上升到 65%，但是采用机器学习技术，反馈速度提高，“改错率”也相应提高到了92%。

上面提到的这两个数据都是2015年采访时提及的数据，经过了两年的发展，很可能已经进一步提升。

此外，Riot Games表示，这一技术也可以用于社区管理。

其实，利用人工智能技术对抗网络暴力已经有不少公司在做尝试。比如，2016年，Google 母公司 Alphbet 旗下的 Jigsaw推出了一款“Conversation AI”工具，利用人工智能能够屏蔽网络暴力言论，据说屏蔽的准确率已打92%。而在搜索端，Google 的 SafeSearch（安全检索）功能也使用了机器学习，可以识别色情图片，给未成年人提供健康正常的网络浏览与检索。Facebook 机器学习小组也使用机器学习技术监测所有上传到 Facebook 的内容，过滤其中色情、暴力的内容。Twitter 收购了两家初创公司 Madbits 和 Whetlab，也会运用神经网络技术对色情内容进行监控。

via：36氪

声明：游资网登载此文出于传递信息之目的，绝不意味着游资网赞同其观点或证实其描述。