AI与游戏碰撞的合规探讨（上）

作者：施忞旻、周禹洛

AI与游戏的羁绊甚至滥觞于电子游戏发明之前——1952年，计算机科学之父艾伦·图灵（Alan Turing）亲自制作了一个能够下国际象棋的自动程序（这被认为是世界上第一个AI程序），来进一步验证计算机能否“像人类一样思考”解决游戏中的问题。虽然因为当时计算机的算力不足，这个程序与图灵同事的对弈以失败告终，但这却成就了AI与游戏的初次见面。

1997年，IBM开发的深蓝（Deep Blue）首次击败世界国际象棋卫冕冠军加里·卡斯帕罗夫（Garry Kasparov），但很多人依旧认为围棋将是人类智慧王冠上最后一颗不可撼动的明珠。2016与2017年，AlphaGo终于在被称为“人类净土”的围棋运动上接连击败世界冠军李世石与柯洁。时至今日，已经没有人再怀疑“AI能够玩游戏，并且玩的比人类好得多”这样的说法。

在过去的“AI与游戏碰撞”概念下，所有人都认识到它与游戏结合的无限可能，游戏行业也被普遍认为是AI赋能的确定性受益者。作为最具包容性与开拓性的“第九艺术”的制作者，各家游戏企业也已经将AI融入其游戏产品及服务全生命周期的各个方面。

9月26日，在杭州电竞中心进行的《王者荣耀(亚运版本)》的决赛中，中国队表现出色，以2：0击败马来西亚队，夺得了该项目赛事的金牌。这是杭州亚运会电子竞技项目诞生的首枚金牌，同时也是亚运会历史上产生的首枚电竞正式比赛的金牌。此次亚运会共有《英雄联盟》、《王者荣耀(亚运版本)》、《和平精英(亚运版本)》、《刀塔2》、《梦三国2》、《街霸5》和《FIFA Online4》7个电子竞技项目入选，在本次亚运电竞项目中，国枫所服务的AG电子竞技俱乐部共为国家队输送了3名选手和1名教练，中国队在AG选手及教练参与的《王者荣耀(亚运版本)》、《和平精英(亚运版本)》项目均斩获金牌，并最终在6个电竞项目中取得了4金1铜的优秀成绩。

从本次亚运会的数字火炬手、虚实融合赛事体验、亚运智能出行等一系列元素中，参与者都能看见AI的身影，而相关电子竞技项目更是已与AI结缘颇深。以《英雄联盟》为例，早在2018年，肯德基就开始为《英雄联盟》比赛量身定制了一个专为游戏走向预测大数据分析的，受到粉丝们广泛喜爱和欢迎的AI形象——KI上校。基于大数据样本，KI上校能够高精度预测战队的相对获胜机会，判断游戏对抗的预期结果。随着比赛的进行，KI上校更会将游戏中的多种因素转化为可衡量数据代入到赛场上的实际情况中，从而输出实时胜率曲线。根据局势的跌宕起伏，双方的获胜机会也将不断变化。AI智能预测使KI上校成为观众口中的“赛事预言家”，极大地丰富了《英雄联盟》赛事的观赛体验。无独有偶，《王者荣耀》为了让听障人士即时体验到电竞赛事的内容，提升听障用户观赛的参与感和沉浸感，在2022年KPL春季赛总决赛中使用了由腾讯游戏语音团队、腾讯AI交互部联合开发的AI“无障碍观赛”功能，利用AI自动生成的解说字幕以及由游戏英雄“云缨”担当的AI手语数字人，为观众提供自动字幕和符合《国家通用手语词典》的标准手语解说。

除了增强赛事观赏性外，AI也已被应用于玩家在游戏中的互动体验。如网易在其推出的《逆水寒》手游中深度嵌入了其自行研发的伏羲游戏AI，玩家可在角色创建阶段使用“文字捏脸”功能，只需要用文字描述心中所想人物形象，AI即可通过对玩家输入的文本进行深层语义理解、关键信息抽取、深层情感推理，将玩家的脑中所想具象化；更令人惊叹的是，该款游戏中有大量NPC都被植入了不同的智能AI，智能NPC不再固定的站在某个位置充当“工具人”，而是能够进行包括主动跟玩家们聊天搭讪、针对玩家行动给予合理的行动回馈、陪伴不愿意社交的玩家共同在副本中并肩战斗等在内的一系列拟人化交互。

上述案例中的AI字幕、AI手语人与AI辅助玩家进行角色创作等场景主要为AIGC（生成式人工智能）的应用，应受包括自2023年8月15日起施行的《生成式人工智能服务管理暂行办法》在内的涉生成式人工智能相关监管要求约束；AI智能赛事预测以及智能NPC则涉及AI自动化决策，其中涉及个人信息部分应当受《个人信息保护法》下个人接受自动化决策的相关规则规制。

同时，游戏企业必须向玩家披露自身的产品和/或服务中使用了AI智能反外挂程序，明示其如何处理用户个人信息的规则并获得充分、必要且明确的授权同意。从实践上看，各大游戏企业的做法多为利用《用户协议》、《隐私政策》等条款对相关事项进行说明，而根据要求，游戏产品或平台的最佳做法应以弹窗等方式明示AI技术并征求同意。虽然由AI全流程负责识别玩家在游戏中使用外挂行为，并对其处以账号财产冻结、账号封禁等处罚的反外挂政策如今已被游戏行业广泛应用，但此类冻结账号内虚拟财产、封禁账号等处罚涉及玩家用户个人的账号使用、虚拟财产处分等相关权利，如该类处罚被认定落入上述“对个人权益有重大影响”的范围，玩家用户则应有权要求游戏企业予以说明，并有权“拒绝仅通过自动化决策的方式作出决定”。针对AI自动识别并作出冻结、封禁处罚的行为，实践中各游戏企业通常为受处罚玩家提供“人工申诉”的救济方式，但玩家能够进行此等“人工申诉”救济是否与上述能够“拒绝仅通过自动化决策的方式作出决定”相等同，仍有待商榷。

2. AI技术辅助玩家生成游戏内容

如前文介绍，AI辅助玩家生成游戏内容的具体应用已经较为普遍，其中相对成熟的当属玩家创建角色时的AI自动捏脸技术。目前市面上多款玩家能够自行创建角色的网络游戏均为玩家提供了AI识图捏脸功能，游戏内置AI通过识别玩家提供图片中的人物五官、骨相等特征作为参考，为玩家生成游戏中可操控的“自我”或明星。而根据《个人信息保护法》，如相关人脸信息提取后能够对应至个人，其无疑属于可用于生物识别的敏感个人信息：

《个人信息保护法》第二十四条第二款：“通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。”

如游戏内相关算法推荐具有舆论属性或者社会动员能力，则按照《互联网信息服务算法推荐管理规定》，游戏企业亦应按要求进行算法备案、履行安全评估和配合监督检查义务。

1. AI处理的告知与透明

但在如今新一代AI广泛应用的现实背景下，深度学习的神经网络建模通常由学习算法通过大量数据的输入，识别特定数据特征关联以产生输出。因该过程在很大程度上是AI自我指导的，其可解释性和透明度较低，将不可避免地产生与个人信息处理所要求的系统化的透明原则的矛盾。这一AI可解释性和透明度的问题不仅是AI行业发展的难题，也是AI相关个人信息处理活动的合规与监管难题，而场景化至游戏AI，更有例如智能NPC等的相关游戏AI是否会收集玩家反馈数据、该等数据是否可能成为个人信息等一系列合规问题值得探讨。

而在AI自动化决策的透明度要求下，除AI自身特性与监管的合规矛盾外，更存在着AI应用目的与监管要求的矛盾。例如前文所述的AI反外挂程序，其应遵循监管要求对个人信息处理的公开透明原则，但基于反外挂的应用场景，又存在相当程度的保密要求以免因算法过程的披露导致漏洞被游戏外挂制作者发现和利用。前述各项AI应用的固有矛盾是否能够在今后成为《个人信息保护法》第十八条所称“法律、行政法规规定应当保密或者不需要告知的情形”，亦有待后续对实践技术发展及合规建设的观察与讨论。

以AI智能反外挂为代表的各项游戏内自动化决策机制，如涉及个人信息则应当遵循《个人信息保护法》第五条、第六条规定的必要性与最小化收集处理原则。但在实践中，部分AI反外挂程序将在开启后跟踪搜集一切系统内运行信息甚至遍历系统存储内所有目录，通过查阅市场上各主流AI智能反外挂产品的隐私政策及技术帮助文档，反外挂程序可能收集处理的数据包括设备信息、日志信息、应用信息中的多项敏感信息（如：设备唯一识别码；设备IP地址；用户开机、点击、安装行为信息；系统注册表信息等）。这一普遍现象似乎说明，反外挂决策时收集和处理大量与游戏无关数据的操作将豁免于监管要求的信息处理必要性及最小化原则，但对比过往的人工反外挂工作，AI所收集的相关数据与之存在数量级间的差距。

这一问题随着AI应用的加入而变得更为复杂。因AI处理数据进行自动化决策的过程也是自行深化学习的过程，在当今大数据时代下，AI对数据的渴求可谓“多多益善”，从正面许可的角度对AI的数据处理设定必要性与最小化限度，可能导致对相关产业发展的严重阻碍。鉴于AI的数据驱动特殊性，或许通过反面规避的模式、以“基于设计的必要性与最小化”为个人信息开辟隐私避风港，能够成为最具实操价值的合规制度。

根据《个人信息保护法》第二十四条第二款，通过AI自动化决策处理个人信息的，应当同时提供不针对其个人特征的选项或提供便捷的拒绝方式，即游戏玩家应当有权利拒绝其信息受到AI处理，但相比起电商购物等简单提供相应选项的操作，因游戏AI在用户端的应用涉及方方面面，相关合规处理显然更加困难。

在AI智能反外挂的应用场景下，如在事前给予所有玩家拒绝AI决策选项，则玩家可以选择由人工判断自身游戏行为是否违规，将显著增加在反外挂机制中本应作为复核环节的人工审核负担，AI应用的高效率优点无疑将被削弱；而智能NPC作为游戏内容的一个有机组成部分，将相关游戏内容与整体游戏割裂从而实现玩家对智能NPC自动化决策的拒绝，在实践中显然亦难具可行性。

针对上述用户单独拒绝AI处理的实现难题，游戏企业能够采取的似乎只有一种路径：即将相关AI处理与游戏产品的使用一并打包，如玩家拒绝相关AI对其数据的处理，将无法享受全部游戏内容。例如多数游戏企业在隐私条款中说明，部分个人信息（例如实名认证信息）的收集和使用对应其游戏服务的基础功能，如玩家希望撤回相关个人信息收集和使用的授权可能导致游戏企业无法为玩家提供服务，在此情形下，如玩家仍希望撤回相关授权，则应当申请账号注销实现该需求。但该等游戏企业作出的，对玩家一旦行使拒绝权即不能进行游戏的安排，却大概率存在构成对消费者自主选择商品或服务的强制，违反《中华人民共和国消费者权益保护法》的合规风险。

在AI深度内嵌于游戏产品或服务的场景下，上述拒绝权安排是否能够合规实现、游戏产品或服务的“基础功能”应如何界定、AI如已经构成游戏产品或服务难以剥离的部分，AI所需信息是否与实名认证信息性质一致同游戏的“基础功能”强关联、深度内嵌的AI处理玩家数据是否满足《个人信息保护法》第十三条第一款“为订立、履行个人作为一方当事人的合同所必需”的个人信息法定处理情形等日后可能存在的合规问题，也将随着游戏AI数据合规实践的发展逐步显现。