随着移动互联基础设施的大力建设和移动终端设备的广泛普及，信息通信技术和数字数据技术的应用场景和频次得到极大丰富和提升，海量的用户数据的生产、流动、使用、开发得到极大提速，算法技术的开发和应用得到极大激励。以海量数据为基础的人工智能算法与网约车、网络购物、灵活用工等应用场景的深度融合，给数字经济高质量发展注入强大动能。同时，由于算法技术及应用场景的深度商业化和广泛市场化，“大数据杀熟”、诱导用户沉迷网络、过度消费等算法技术在数字经济发展中引发的负效应已深度冲击了市场竞争秩序和社会管理秩序，给维护市场公平竞争、消费者合法权益、社会治理乃至国家安全都带来了诸多挑战，迫切需要对算法应用加强规范，保障和促进以“数据、算法、算力”为核心要素的数字经济健康发展。
2022年1月12日，国务院印发《“十四五”数字经济发展规划》(简称《规划》)。《规划》指出，我国数字经济发展迅速，但依然面临发展不平衡、不充分、不规范的问题，需要提高我国数字经济治理水平。应优化升级数字基础设施，推进“云网协同”和“算网融合”发展，加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系。《规划》提出，应当坚持公平竞争、安全有序的基本原则，以竞争政策为基础，兼顾促进数字经济发展与保障市场运行安全，结合市场监管、宏观调控、政策法规等多种规制手段，协调多主体，共同搭建完善协同监管规则制度，推动平台经济健康发展。
作为互联网建设和应用大国，我国高度重视对互联网领域各类行为及相关数据安全的建设，目前已形成包括《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等多部法律法规在内的较为成熟的网络、数据及算法的监管体系。2021年12月31日，国家网信办、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》(简称《规定》)，2022年3月1日起正式施行。《规定》作为上述法规体系的重要组成部分，与《规划》中数字经济发展应坚持公平竞争、安全有序的基本原则相一致，是贯彻落实中央关于网络安全和信息化工作战略部署、推进互联网信息服务生态治理的重要举措。《规定》的发布为惩治算法乱象提供了明确且具有针对性和操作性的法律规范，对规范和促进数字经济健康发展具有重大意义。
一、夯实安全发展底线，规范算法至善
《规划》指出，在发展数字经济的同时，还应牢牢守住安全底线，着力强化数字经济安全体系。要增强网络安全防护能力，提升数据安全保障水平，切实有效防范各类风险。其中算法治理作为整个数字经济整体治理与系统治理的关键环节，不仅涉及到市场治理，还涉及到社会治理与国家总体安全。正如《规定》第六条明确规定，算法推荐服务提供者不得利用算法推荐服务，从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动;第七条明确要求算法推荐服务提供者应当落实算法安全主体责任，建立健全数据安全保护和个人信息保护等管理制度和技术措施。这在国家安全层面和个人信息保护层面，均对算法推荐服务提供者提出了新的要求，为国家安全、社会公共利益、个人隐私等提供了重要制度保障。
在实践中，算法推荐服务提供者往往会借助算法技术对消费者用户数据进行分析整理，形成用户模型或用户标签，并以此为基础进行精准推送。用户模型或用户标签虽然可以提高信息推送效率，但是易形成“信息茧房”，使用户局限在自己熟悉的领域内，满足于被动的知识积累，无法获取全面、客观的信息;若将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息，还可能会对用户的身心健康产生不利影响。对此，《规定》第十条要求算法推荐服务提供者应当完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
当前，算法在降低公众筛选有效信息时间成本的同时，也扩大了网络生态失衡、失真的风险，操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现的问题层出不穷，针对这些问题，《规定》第十四条规定，“算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为”。此款规定将有效规制借助算法技术对网络舆论产生不良影响的行为，畅通社会监督的渠道。
二、“以人为本”框定算法应用红线
当前，受到新冠肺炎疫情的影响，传统行业的就业者难以便捷就业，而以平台经济为基础的灵活用工形式则吸引了大量的劳动者就业，缓解了民生压力。外卖配送员、专车司机、网约家政等主体均依靠互联网平台经济获取订单，但这些劳动者的权益亦可能受到算法不合理的订单分配、奖惩规则及工作时间安排影响，被迫延长工作时间、超出工作强度，或是无法正常接收订单。对此，《规划》指出，应当切实有效防范各类风险，建立完善相关算法，健全灵活就业人员参加社会保险制度和劳动者权益保障制度。《规定》第二十条规定，“算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法”。
同时，面对我国老龄化社会的加速到来，《规划》指出，优化基础设施智能升级，应当充分满足老年人等特殊群体的需求;强化数字经济安全体系，同样需要健全完善针对老年人等特殊群体的网络保护机制。当下，随着人工智能技术的应用范围扩大，整个社会都向着智能化方向不断发展。但是对于老年人群体来说，由于学习能力不如年轻人，面对新兴的算法推荐服务，可能难以有效掌握，故无法享受到算法推荐服务所带来的全新体验，甚至随着智能化设备不断取代传统的设备，也给老年人群体带来了诸多不便之处。对此，《规定》第十九条规定，“算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务”。
此外，由于未成年人尚未形成健全的价值观，难以甄别纷繁复杂的各类信息，易受互联网不良信息或应用服务的影响，尤其是网络游戏、短视频等应用软件导致未成年人沉迷的事件迭起，引发了公众的广泛热议。对此，《规划》指出，应当健全完善针对未成年人等特殊群体的网络保护机制。《规定》第十八条明确要求，算法推荐服务提供者应当依法履行未成年人网络保护义务，提供适合未成年人特点的服务，便利未成年人获取有益身心健康的信息，不得向未成年人推送影响未成年人身心健康的信息，并且不得利用算法推荐服务诱导未成年人沉迷网络。
三、做好分类协同，提升算法治理水平
千人千面，个性化应用是算法的典型特征，故依据算法应用所涉及的内容类别、舆论属性以及用户规模等因素，以及算法应用对网络安全可能产生的风险大小，对社会产生的损害范围及程度，对其进行分级分类的治理是当前算法治理的主流观点和基本理路。如《规定》第二十三条明确了分级分类的差异化监管制度，要求网信部门会同电信、公安、市场监管等有关部门，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模等要素对算法推荐服务提供者实施分级分类管理，更加全面地开展算法安全评估和监督检查等各项工作。
为进一步应对算法千人千面、难以把握的“黑箱”属性，《规定》第二十四条明确了算法备案制度，要求具有舆论属性或者社会动员能力的算法推荐服务提供者应通过互联网信息服务算法备案系统填报服务提供者的服务形式、应用领域、算法自评估报告等信息，履行备案手续。算法备案制度的建立有助于对算法推荐服务进行监管，更好预防算法可能带来的风险。
同时，《规划》明确指出为健全完善数字经济治理体系，需进一步强化协同治理和监管机制，增强政府数字化治理能力，完善多元共治新格局。
根据《规划》要求，规范算法应用，首先，应强化协同治理机制，加强政府内部不同部门之间的协同治理，应明晰主管部门、监管机构职责，强化跨部门、跨层级、跨区域协同监管，明确监管范围和统一规则，加强分工合作与协调配合。正如，在《规定》第三条中所规定的参与算法推荐服务治理部门除了国家网信部门，还包括电信、公安、市场监管等有关部门，《规定》指出，这些部门依据各自职责负责算法推荐服务监督管理工作，地方部门则依据职责负责本行政区域内的监管工作。然而，由于算法推荐服务往往具有跨区域、跨领域等特性，在监管过程中亦可能同时牵涉多个监管部门或多个区域的地方监管部门，因此，为避免在监管过程中因职责交叉而导致相互推诿的情况发生，还需建立跨部门跨区域的协同监管机制。
其次，应建立完善多元共治。《规划》明确，要建立完善政府、平台、企业、行业组织和社会公众多元参与、有效协同的数字经济治理格局。
行业健康发展，一方面需要法律规范和政府监管形成外部约束，另一方面也需要行业自律。为此，《规划》指出，要进一步推进行业服务标准建设和行业自律。为鼓励算法服务行业形成行业自律，《规定》第五条明确强调，鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督，尤其对当前社会各界普遍关注的“大数据杀熟”、“信息茧房”等算法热点问题及其法律责任进行了明确规范，为建立健全多元共治格局奠定制度基础。
目前，我国以数字经济为主要经济业态和行业的发展正站在新周期起点之上，数字经济由高速增长阶段转向高质量发展阶段。治理算法已构成保障和促进数字经济高质量发展的重中之重，其不仅关乎数字经济发展的效率，还涉及数字经济运行的安全，为此，尽快搭建安全规范、“以人为本”覆盖算法应用全周期、全场景、全流程的分类协同治理机制及方式方法已成为引导算法向善、激励算法创新、释放算法正效能的关键。(作者：陈兵 南开大学法学院教授、司法与社会研究中心主任，中国新一代人工智能发展战略研究院特约研究员)