近年来，互联网信息服务算法在加速信息传播、繁荣数字经济、促进社会发展等方面发挥了重要作用。同时，其不合理应用也影响了正常的传播秩序、市场秩序和社会秩序，信息茧房、大数据杀熟、算法歧视等算法应用乱象层出不穷，引起社会广泛关注。2021年9月17日，国家互联网信息办公室等九部委联合发布《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《意见》），首次在规范层面明确“算法治理”的概念并提出系统性、全面性的规范要求。2022年3月1日起，《互联网信息服务算法推荐管理规定》（以下简称《规定》）正式施行，支撑《规定》中算法备案工作的互联网信息服务算法备案系统也同期正式上线运行，标志着我国推进互联网信息服务算法综合治理工作进入法治化、常态化、长效化新阶段。
《规定》以互联网信息服务算法推荐活动为切入点，在监管对象方面，《规定》明确了算法治理的对象为应用算法推荐技术向用户提供信息的算法推荐服务提供者，并将互联网信息服务推荐算法分为生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类。在监管内容方面，《规定》明确要求算法推荐服务提供者应当落实算法安全主体责任，建立健全算法安全管理制度和技术措施，坚持主流价值导向，切实保障用户权益，促进算法应用向上向善。《规定》从信息服务规范和用户权益保护两个方面，对五大类算法的应当行为和禁止行为作出了明确要求。在监管体系方面，《规定》构建了涵盖算法分级分类、算法备案管理、算法监督检查、算法风险监测、算法安全评估等举措的科学监管体系，力求标本兼治，逐步形成算法治理长效机制。
《规定》将互联网信息服务推荐算法分为五大类，并针对每类算法设置了针对性的差异化条款。下面结合《规定》的具体内容，阐述这五大类算法的可能治理思路。
(相关资料图)
一是生成合成类算法的治理。生成合成类算法属于工具型算法，其治理的关键在于“定边界、明标识、控源头”。首先是保证算法的合理适用范围，督促算法推荐服务提供者不得利用生成合成类算法生成合成违法不良信息。《规定》第7条明确指出“不得生成合成虚假新闻信息”。其次是要求对生成合成的数据进行显著的标识，保障用户的知情权，防止生成合成的违法不良数据在网络空间传播泛滥。《规定》第9条指出“发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输”。最后是做好该类工具型算法的源头备案工作。生成合成类算法服务提供者应当按照《规定》的要求切实履行备案手续，未履行备案手续的不得对外提供生成合成类服务。此外，要加强生成合成内容的检测和溯源技术攻关，从技术上保障生成合成类算法的监管闭环。
二是个性化推送类算法的治理。个性化推送类算法属于分发型算法，其治理的关键在于从稿源到分发机制再到用户权益保护的全流程管理。首先是要求算法推荐服务提供者加强对稿源的监督管理。《规定》明确指出“不得利用算法推荐服务传播法律、行政法规禁止的信息”“不得传播非国家规定范围内的单位发布的新闻信息”。算法推荐服务提供者应建立完善的稿源管理机制，防止违法不良内容进入稿源池。其次是要加强对内容分发机制的监督管理。针对分发机制涉及的用户模型和用户标签、人工干预机制和模型优化目标等环节，《规定》要求“不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息”“优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷”“不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”。最后是核实用户权益保护的落实情况。《规定》明确要求算法推荐服务提供者切实保护用户的知情权和选择权等合法权益，包括“应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等”“应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项”等。此外，针对未成年人和老年人等特殊群体，《规定》也提出了针对性的权益保护要求，应在监管过程核实具体落实情况。《规定》致力于通过贯穿稿源、算法推荐模型、人工干预、用户自主选择等个性化推送信息服务全流程的管理，构建整体性、群体性、个体性兼备的网络信息内容生态，实现信息内容的高度、宽度和温度。
三是排序精选类算法的治理。排序精选类算法属于榜单型算法，其治理的关键在于加强导向的管理。首先是加强对榜单页面内容生态的治理。《规定》要求“算法推荐服务提供者应当加强算法推荐服务版面页面生态管理”，“在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息”。其次是要求算法推荐服务提供者公开榜单的排序依据和上下榜单规则，保证榜单的公平公正和透明可释。最后是加强对榜单干预机制的审查，核查是否存在《规定》中禁止的“操纵榜单”“控制热搜或者精选”等现象。
四是检索过滤类算法的治理。检索过滤类算法属于筛选型算法，其治理的关键在于对特征库和标签库的管理。首先是加强对特征库和标签库的有效性评估。《规定》第9条明确指出，“算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序”。其次是加强对检索过滤结果导向的监管。部分算法推荐服务提供者利用检索过滤类算法来过滤利益相关内容或对利益相关内容进行排序调整，从而实现竞争对手打压或自我优待的目的。《规定》第15条明确指出，“算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为”。
五是调度决策类算法的治理。调度决策类算法属于自动化决策算法，其治理的关键在于算法作用对象的合法权益保护。首先是加强对算法霸凌乱象的治理。算法推荐服务提供者不能以经济利益为导向，忽视对劳动者的人文关怀，依据算法的决策结果对劳动者进行调度。《规定》第20条明确指出，“算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法”。其次是加强对算法歧视乱象的治理。《规定》第21条明确指出，算法推荐服务提供者“不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为”。
《意见》明确提出了互联网信息服务算法综合治理的目标：利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。治理机制方面，制定完善互联网信息服务算法安全治理政策法规，算法安全治理的主体权责明确，治理结构高效运行，形成有法可依、多元协同、多方参与的治理机制。监管体系方面，创新性地构建形成算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。算法生态方面，倡导算法导向正确、正能量充沛，算法应用公平公正、公开透明，算法发展安全可控、自主创新，有效防范算法滥用带来的风险隐患。
互联网信息服务算法综合治理是一项长期而艰巨的任务，需要社会各界共同努力。一方面，需要强化技术创新发展，从技术层面克服算法自身存在的内在安全风险。另一方面，需要监管部门、企业、行业组织、社会公众的多方位参与，努力探索互联网信息服务算法综合治理新思路新举措，共同推进算法应用生态治理，营造天朗气清的网络环境。
（作者系中国科学院计算技术研究所研究员）
