算法推荐服务提供者的注意义务探究
2023-11-09 09:08:11 | 来源:人民法院报 | 作者:郑驰
 

  算法推荐是数字时代信息分发的新型方式,网络服务提供者利用算法为用户推荐个性化的内容,但与此同时,推荐的内容中也出现了诸如视听作品被删减切条为短视频等侵权情形,引发了对网络服务提供者责任的讨论。民法典第一千一百九十七条规定:“网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益,未采取必要措施的,与该网络用户承担连带责任”,对网络服务提供者的注意义务作出了规定,但在具体适用中,还需要明晰注意义务的具体内涵以及边界限度,从而确定算法推荐服务提供者应承担的责任。

  一、承担注意义务的理论争议

  对算法推荐服务提供者应承担何种程度的注意义务,存在两种观点。一种观点认为,算法推荐服务提供者不应承担较高的注意义务。这种观点从服务提供者的行为出发,考察其是否构成“应当知道”。在积极行为方面,由于算法推荐是基于用户偏好进行的推送,与最高人民法院《关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》列举的构成应知的行为不同,服务提供者并非公开、统一地向其他不特定用户进行推送,有目的地帮助侵权。在消极行为方面,由于网络服务提供者难以实时调整推送内容,也无法区分是否是合理使用,因此不应将算法过滤成功率与应知相关联,否则将使算法推荐等新型商业模式被破坏。另一种观点认为,算法推荐服务提供者应承担更高的注意义务。因为从功利主义的角度出发,为算法推荐服务提供者配置更为严格的风险管控义务,是与其能力、收益相当的。随着技术的迭代与发展,平台审查侵权内容的能力也显著提高,能够使用内容元数据索引、算法识别等多种审查技术过滤侵权内容,为其设置更高的注意义务,并非“强人所难”,而是兼顾了各方利益和社会治理目标的结果。

  二、提高注意义务的正当性依据

  为算法推荐服务提供者设定更高的注意义务具有一定的正当性。首先,在算法推荐中,网络服务提供者的角色发生了转变。当网络服务提供者只是作为信息传播的通道,中立而被动地传输信息时,并不能直接控制进入通道的信息,以“避风港规则”确定网络服务提供者的责任是与其属性相匹配的,网络服务提供者遵守的是“通知删除”规定,在被侵权人通知时,及时采取删除、屏蔽、断开链接等必要措施。但是网络服务提供者进行算法推荐时,网络服务提供者不再只是中立的信息通道,而扮演着守门人的角色。守门人理论最早兴起于传播学领域,该理论认为,在信息传播的渠道中存在“守门人”,守门人的决策决定了信息如何传播,决策又与守门人的价值取向密切相关。进入数字时代,算法推荐网络服务提供者成为新的守门人,对网络平台中的内容具有很强的控制力。网络服务提供者能够通过单方制定的平台规则,管理进入平台的信息。平台规则既包括服务协议,也包括平台的代码设计。在服务协议中,网络服务提供者可以对禁止制作、发布、传播的信息类型进行规定,同时赋予自己拒绝发布、停止传输信息、删除内容等权利,通过服务协议获得了内容管理的正当性基础。与此同时,在网络空间中,“代码即法律”发挥了重要的规制作用,平台能够利用技术优势,设计过滤算法对侵权内容进行识别剔除,进而筛选进入推荐系统的内容,对平台中的内容秩序产生实质性影响。

  其次,提高网络服务提供者的注意义务具有经济合理性。相较于在侵权行为发生之后,由分散的被侵权人以诉讼的方式追究侵权方的责任,要求网络服务提供者履行注意义务更具有经济上的合理性。算法推荐服务提供者根据用户的偏好进行定向推送,与传统的由人工编辑的、无差别信息分发方式相比,用户能够接触的信息内容更加丰富,能够为服务提供者带来更高的市场占有率与收益。但与此同时,这种方式也增大了侵权信息被传播的概率与范围,使得侵权损害后果有所扩大。对于这种损害后果,如果仅由被侵权人以事后追责的方式获得救济,一方面,被侵权人面临着维权难的问题,既难以确定侵权人的身份,也需要借助更加专业的技术保存数据证据链的完整性,最终导致被侵权人因诉讼效益较低而放弃权利救济,也将进一步导致社会整体利益受损。另一方面,从算法推荐服务提供者的角度而言,其获取了算法推荐产生的商业利益,如果将其中产生的风险分配给被侵权人承担,不符合公平正义的法治价值追求。相较于个人,由算法推荐服务提供者预防风险发生、制止损害扩大所需的成本更低,其具有更多的知识和信息,能够有效地识别风险,从而及时采取措施减少侵权行为的发生。

  三、提高注意义务的限度与可能

  第一,设定与网络服务提供者规模相适应的注意义务。在提高注意义务时,需要考虑是否会使网络服务提供者的运营成本过度增加,而导致其正常经营受到限制,影响行业整体的良性发展。如果要求网络服务提供者承担同样标准的注意义务,会造成大型平台义务过轻,而小型平台义务过重的问题。在审查平台规模时,可以通过定量的方式进行确定,量化的因素包括用户规模、经济收益等内容。就用户规模而言,当算法推荐的内容涉及侵权时,侵权损害的后果与用户规模呈现正相关的趋势,因此拥有更大规模用户的网络服务提供者应具备更高的内容管理、预防侵权的能力,从而更好地保护用户权益与公共利益。经济收益可以作为判断网络服务提供者注意义务的成本是否过高的参考,如果网络服务提供者主张成本过高,应承担相应的证明责任,列举平台收益、采取措施预防侵权的成本等真实的数据进行分析证明,否则应当承担由此带来的不利或者败诉后果。

  第二,注意义务不要求网络服务提供者对平台内容进行普遍审查。虽然民法典第一千一百九十七条规定了网络服务提供者在“应当知道”的情况下未采取必要措施的,也需要承担责任,但这并不等同于网络服务提供者需要承担普遍审查的义务。一方面,普遍审查会导致网络服务提供者负担过重,这在域外的规定中也有所体现。《欧盟知识产权执法指令》的第3条第1款规定,知识产权执法的必要程序和救济措施不应产生不必要或过高的成本。另一方面,进行普遍审查并采取删除、屏蔽等必要措施,可能会导致对公众言论自由的克减。在算法推荐中,网络服务提供者对向用户优先推荐的内容或知名度较高的内容,应承担更高的注意义务。对于这些内容,网络服务提供者在客观上知道的可能性较大,不仅需要在形式上采取必要措施,如对相关侵权内容进行审查过滤、删除屏蔽,还应达到有效预防、制止侵权的实质性结果。

  第三,网络服务提供者可以在推荐算法的设计阶段,强化防范侵权的价值约束。算法从应用上来看是用于完成特定任务的技术性程序,但实际上关联着设计者的价值取向与利益追求,将版权保护的规则融入推荐算法的设计中,可以从源头防范侵权结果的发生。在《互联网信息服务算法推荐管理规定》中,也体现了通过算法设计实现对行为的引导与规范,其中第八条规定,“算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。”对于推荐算法中的侵权防范机制,可以设计诸如数据库比对、版权内容过滤等功能,从而提升侵权防范的效能,更有效地履行注意义务。

  (作者单位:华东政法大学法律学院)

责任编辑:黄东利