健全算法推荐治理机制 推动新技术安全可信发展

近年来，大数据、物联网、云计算等新一代信息技术快速发展，数字化、网络化、智能化加速推进，新技术新应用新业态蓬勃兴起。作为数字经济时代的重要底层架构，算法逐步成为影响内容分发、服务提供、资源配置的基础性力量，与此同时，算法也引发了群体歧视、算法合谋、信息茧房等一系列问题，给公众利益、社会稳定和国家安全带来巨大挑战。习近平总书记多次强调，要依法加强网络社会管理，加强网络新技术新应用的管理，确保互联网可管可控。2021年12月31日，国家网信办联合工业和信息化部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》（以下简称《规定》），针对当前突出问题，全面搭建了算法综合治理机制，迈出我国新技术新应用立法的重要一步。

一、坚持问题导向，聚焦人民群众反映强烈的算法问题

坚持以人民为中心，是习近平新时代中国特色社会主义思想的重要内容，贯穿于习近平新时代中国特色社会主义思想的各个方面。全面贯彻落实以人民为中心，要求突出问题导向、目标导向，积极回应群众强烈诉求和急难愁盼问题。当前，算法技术广泛渗入互联网应用，深入贴近人民生活，由算法引发的信息茧房、算法歧视、未成年人网络沉迷、骑手安全、不正当竞争等新问题层出不穷，引发社会广泛关注。

《规定》聚焦重点、抓纲带目，对上述新问题、新挑战进行了全面、系统和具体回应，进一步细化用户权利，切实维护用户自主权利。一是强化算法透明度，保障用户知情权。算法透明是实施算法监督、自主选择的重要前提，也是在损害发生后用户进行权利救济的必要保障。《规定》明确了平台应用算法的告知义务，对算法基本原理、目的意图和主要运行机制等的公示义务，并鼓励平台优化对检索、排序、选择、推送、展示等规则的透明度和可解释性。二是赋予用户退出个性化推荐的权利。与《个人信息保护法》《电子商务法》相衔接，《规定》第十七条规定了平台向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务选项的义务。三是创新性提出对用户标签的管理权，确保用户对输入数据的适当干预。根据《规定》的要求，用户可选择或删除用于算法推荐服务的针对其个人特征的用户标签，从输入数据层面实现更大自主权。此外，《规定》重点强化对未成年人、老年人、劳动者、消费者等特定群体的权益保护。

二、坚持底线思维，夯实平台算法安全治理的主体责任

当前，人工智能、大数据等新技术新应用体现出重大国家战略意义，关系国家安全和公共利益，这更加要求我们坚持底线思维，着力防范化解算法带来的政治安全、意识形态安全、社会秩序等方面重大风险。在《网络安全法》《数据安全法》《个人信息保护法》等顶层立法框架下，《规定》与近年国家网信办出台的《网络信息内容生态治理规定》《互联网用户公众账号信息服务管理规定》《网络音视频信息服务管理规定》《互联网直播服务管理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等互联网信息服务相关法律规范有效衔接、一脉相承。例如，《规定》对《网络信息内容生态治理规定》第十二条个性化算法推荐技术的人工干预和自主选择机制，以及《网络音视频信息服务管理规定》第十条有关深度学习、虚拟现实等新技术新应用的安全评估义务等制度，均作了进一步规定。

基于网络平台的技术、数据优势，强化网络平台在算法运行中的全流程主体责任，成为《规定》的重要内容。一是《规定》以基于风险的规制为基本理念，确立了算法定期审核、评估等要求。重点强调对算法相关的数据、模型等进行评估审查，规定平台应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等内容，应当建立健全安全评估监测、安全事件应急处置等管理制度。二是《规定》注重技术治理手段，并确立了负面清单制度。鼓励平台综合运用内容去重、打散干预等技术策略，积极化解信息茧房，实现信息多样性，同时在不正当竞争、劳动保障、大数据杀熟等方面确立了多项禁止性行为，为算法推荐服务划定底线红线。三是《规定》重点强调在网络信息内容生态治理中的主体责任。要求平台建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度，不得利用算法操纵榜单、控制热搜等干预信息呈现，在各个重点环节积极呈现符合主流价值导向的信息等。

三、坚持良法善治，推进新技术新应用监管的中国路径

当前，算法等新技术新应用已经成为推动企业数字化转型和国家治理能力现代化的重要力量，推动算法技术应用中的良法善治意义重大。良法善治意味着应坚持从中国实际出发，立足我国基本国情，统筹考虑经济社会发展状况、法治建设总体进程、人民群众需求变化等综合因素，借鉴国际社会有益经验，确保各项制度设计有效落实。《规定》在借鉴国外经验基础上，提出事前监管、区分监管、系统监管等思路，贡献了新技术新应用监管的中国智慧和中国方案。

一是事前监管，确立算法备案、算法评估等制度。《规定》对具有舆论属性或者社会动员能力的算法推荐服务提供者提出了备案要求，要求通过算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，有效应对算法黑箱问题。针对变更备案信息的要求进一步体现了监管灵活性和敏捷性优势。二是区分监管，确立分级分类的思路。《规定》从全局角度出发，在复杂多变局面下统筹发展和安全、效率和公平、活力和秩序，引导技术向上向善发展。其中，第二十三条确立了算法分级分类的标准，要求根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等，对算法推荐服务提供者进行差异化管理。三是系统监管，建立多元共治的局面。《规定》着力完善治理体系，统筹各方建立完整制度链条。优化监管框架，实现事前事中事后全流程、全链条监管，增强监管系统性和权威性；注重充实算法监管力量，培育算法治理的社会性支撑力量，如第三方评估机构、外部专家团队，推动行业自律和出台标准指南；推进公众监督，畅通社会监督和申诉渠道，并切实有效处理公众诉求。

整体来看，在立法目的上，《规定》注重推动算法安全可信和技术创新之间的有效平衡。一方面建立健全算法安全治理机制，构建完善的算法安全监管体系，另一方面，注重推进算法自主创新，促进算法健康、有序、繁荣发展。在治理理念上，《规定》体现个人赋权和系统治理相结合的算法治理趋势。在赋予用户算法知情权、自主选择权等权利的同时，注重从事前、事中、事后全流程对输入数据、算法逻辑等全要素进行系统治理。在行为规范上，注重坚持正确导向和底线思维。强调算法应遵循技术伦理，以主流价值观为引领，强化算法透明度义务规范；同时建立算法运行的负面清单，禁止利用算法影响网络舆论、实施垄断和不正当竞争等行为。下一步，建议进一步健全算法安全治理机制，强化监管执法和多元协同治理，落实平台主体责任，推动数字经济发展行稳致远。（作者：王爱华，中国信息通信研究院副总工程师）