编者按：中央网信办日前发布通知，牵头开展“清朗·2022年算法综合治理(lǐ)”专项行动，开展时间為(wèi)2022年4月8日至12月初。此次专项行动聚焦网民(mín)关切，深入排查整改互联网企业平台算法安全问题，评估算法安全能(néng)力，重点检查具有(yǒu)较强舆论属性或社会动员能(néng)力的大型网站、平台及产品，督促企业利用(yòng)算法加大正能(néng)量传播、处置违法和不良信息、整治算法滥用(yòng)乱象、积极开展算法备案，推动算法综合治理(lǐ)工作常态化和规范化，营造风清气正的网络空间。
此前，國(guó)家互联网信息办公室、工业和信息化部等九部委联合发布《关于加强互联网信息服務(wù)算法综合治理(lǐ)的指导意见》，要求利用(yòng)三年左右时间，逐步建立治理(lǐ)机制健全、监管體(tǐ)系完善、算法生态规范的算法安全综合治理(lǐ)格局。接着，國(guó)家互联网信息办公室、工业和信息化部、公安部、國(guó)家市场监督管理(lǐ)总局联合发布《互联网信息服務(wù)算法推荐管理(lǐ)规定》，规制内容包括监督管理(lǐ)执法部门、行业组织、算法推荐服務(wù)提供者等主體(tǐ)应当遵循的原则规范，重点是对个人权益、市场秩序、公共利益、國(guó)家安全等造成危害的算法应用(yòng)进行规制，自2022年3月1日起施行，预示着國(guó)家对网络空间的治理(lǐ)已经从数据治理(lǐ)迈向算法治理(lǐ)。如何对算法推荐服務(wù)的顶层设计进行立法规制？如何依法规制算法推荐服務(wù)行為(wèi)，全面助力企业重塑算法合规體(tǐ)系建设？这些成為(wèi)业界关注的话题。
随着数字经济的发展，数据规模急剧扩大、运算能(néng)力快速提升，算法推荐服務(wù)作為(wèi)企业、个人及政府定位新(xīn)坐(zuò)标、把握新(xīn)动向、选择新(xīn)目标的基础工具，日益渗透进社会各领域。算法推荐服務(wù)在推动数字经济发展的同时，算法歧视、大数据杀熟、流量造假、電(diàn)商(shāng)平台强制“二选一”、诱导沉迷等算法黑箱问题也给社会带来严峻挑战，迫切需要对算法推荐服務(wù)的顶层设计进行立法规制，确立公平、透明、非歧视的算法开发和运用(yòng)的价值观取向，依法规制算法推荐服務(wù)行為(wèi)，全面助力企业重塑算法合规體(tǐ)系建设，促进算法相关行业规范有(yǒu)序发展。
算法推荐服務(wù)纳入依法规制范围
算法推荐服務(wù)，属于信息自动化筛选、个性化分(fēn)发的行為(wèi)，需要以信息采集及分(fēn)析等处理(lǐ)為(wèi)基础，是思维模式与技术实现的组合。算法已经历多(duō)次变化，从开始的技术产品变為(wèi)现在的网络平台工具，被用(yòng)于向用(yòng)户提供网络服務(wù)，承担网络空间的日常治理(lǐ)任務(wù)；算法推荐服務(wù)从最初的股票自动交易、搜索链接等发展為(wèi)现在的外卖平台调度算法等。尤其是人工智能(néng)技术的发展，算法具备自主性和认知特征，从工具逐渐上升為(wèi)决策者，对社会秩序和个體(tǐ)权益的影响很(hěn)大。
数字经济时代，算法已广泛应用(yòng)于社会生活和公共管理(lǐ)的各种场景，目前整个社会信息分(fēn)发市场中，智能(néng)算法推荐型分(fēn)发模式占比已超过70%，依法对算法推荐服務(wù)的规制及法律责任承担，已成為(wèi)全社会关注的热点话题。3月1日起施行的《互联网信息服務(wù)算法推荐管理(lǐ)规定》（以下简称《算法规定》）规制的范围包括：生成合成类，主要规范内容聚合、内容自动化生成及内容合成服務(wù)；个性化推送类，主要规范基于用(yòng)户画像而进行的内容、商(shāng)品或服務(wù)的个性化推送服務(wù)；排序精选类，主要规范内容服務(wù)提供者的版面页面管理(lǐ)，诸如首屏、热搜、精选、榜单、弹窗等；检索过滤类，主要规范搜索引擎、内容检索、内容干预等服務(wù)或行為(wèi)；调度决策类，主要规范工作调度服務(wù)，如快递平台、出行平台等。
《算法规定》明确了算法推荐服務(wù)提供者的信息服務(wù)规范，涵盖当前社会普遍关注的算法推荐热点问题，如用(yòng)户模型、流量造假、个性化推送、未成年人身心健康保护、互联网平台劳动者权益保障、大数据杀熟等，并且对上述行為(wèi)应当承担的法律责任进行明确规定。算法推荐技术是算法推荐服務(wù)提供者提供个性化服務(wù)的重要基础，对应用(yòng)算法推荐技术提供互联网信息服務(wù)的各类行為(wèi)进行规范，是维护互联网信息服務(wù)行业良好市场秩序、促进数字经济高质量发展的关键。算法推荐服務(wù)提供者应当坚持主流价值导向，积极传播正能(néng)量，不得利用(yòng)算法推荐服務(wù)从事违法活动或者传播违法信息，采取措施防范和抵制传播不良信息，着力防范化解算法推荐服務(wù)带来的政治安全、意识形态安全、社会秩序等方面重大风险。
构建多(duō)元主體(tǐ)协同共治的治理(lǐ)格局
目前，网络平台损害消费者的知情权、选择权的现象突出，依法规范网络平台行為(wèi)成為(wèi)数字经济法治化建设亟待解决的问题。最近，《國(guó)家发展改革委等部门关于推动平台经济规范健康持续发展的若干意见》明确提出，探索数据和算法安全监管，从严管控非必要采集数据行為(wèi)，依法依规打击黑市数据交易、大数据杀熟等数据滥用(yòng)行為(wèi)。在严格保护算法等商(shāng)业秘密的前提下，支持第三方机构开展算法评估，引导平台企业提升算法透明度与可(kě)解释性，促进算法公平。严肃查处利用(yòng)算法进行信息内容造假、传播负面有(yǒu)害信息和低俗劣质内容、流量劫持以及虚假注册账号等违法违规行為(wèi)。國(guó)務(wù)院反垄断委员会印发的《关于平台经济领域的反垄断指南》，对于经营者通过数据、算法、平台规则等新(xīn)型手段达成垄断协议，实施拒绝交易、限定交易或者大数据杀熟等行為(wèi)，规定了垄断行為(wèi)的认定方法，明令禁止平台通过算法来实施垄断行為(wèi)。
在平台经济领域出现的新(xīn)型违法竞争行為(wèi)，可(kě)能(néng)既有(yǒu)排除、限制竞争的滥用(yòng)市场支配地位行為(wèi)，也有(yǒu)不正当竞争行為(wèi)，还有(yǒu)属于不合理(lǐ)交易行為(wèi)，需要综合运用(yòng)《反垄断法》《反不正当竞争法》《電(diàn)子商(shāng)務(wù)法》《消费者权益保护法》等多(duō)部法律法规予以规范和治理(lǐ)。面对算法推荐服務(wù)运行场景多(duō)维性、商(shāng)业模式多(duō)样性及竞争行為(wèi)复杂性，依靠单一主體(tǐ)监管很(hěn)难满足平台经济健康发展的治理(lǐ)需求，算法治理(lǐ)应该充分(fēn)发挥多(duō)元主體(tǐ)的作用(yòng)，让各个主體(tǐ)参与其中，形成治理(lǐ)合力。这些多(duō)元主體(tǐ)包括政府相关部门、平台企业、消费者及团體(tǐ)、经营者及团體(tǐ)、行业协会等组织，以更好地形成治理(lǐ)合力。《算法规定》鼓励相关行业组织加强行业自律，建立健全自律制度和行业准则，组织制定行业标准。通过行业自律和制定行业标准的方式可(kě)以将各个参与主體(tǐ)纳入其中，利于形成多(duō)元主體(tǐ)共治的格局，充分(fēn)发挥社会公众的监督作用(yòng)。
重塑企业算法推荐服務(wù)合规體(tǐ)系
良好的数据治理(lǐ)體(tǐ)系是开展算法治理(lǐ)的基础，我國(guó)出台的《网络安全法》《数据安全法》和《个人信息保护法》三部法律，着力构建个人信息和数据保护的基本法律框架，明确要求企业建立合规制度體(tǐ)系，可(kě)以说，建立个人信息及数据合规體(tǐ)系已经成為(wèi)现代企业的一项重要法律义務(wù)，按照《算法规定》新(xīn)要求重塑企业算法推荐服務(wù)合规體(tǐ)系显得十分(fēn)重要。
全面梳理(lǐ)和整改算法应用(yòng)存在的问题。按照《算法规定》新(xīn)要求，对企业内部算法应用(yòng)的机制、模型、数据和应用(yòng)内容进行全面梳理(lǐ)，发现相关制度规定和业務(wù)流程及合同条款存在问题的应当尽快整改。建立用(yòng)户申诉渠道和制度，主动配合监管部门进行检查、备案和安全评估，及时排除违法违规的不良信息、诱导性算法模型、偏见性用(yòng)户标签及其他(tā)不符合法律法规、公序良俗和主流价值导向的情形，确保算法推荐服務(wù)行為(wèi)的依法合规。
建立和完善算法应用(yòng)合规體(tǐ)系。网络平台企业应当高度重视最高人民(mín)检察院牵头开展的企业合规不起诉的监督考察制度改革试点，认真研判法律法规、监管规定、行业准则、國(guó)际标准对依法合规的强制性要求，依据國(guó)际标准化组织发布的ISO 37301《合规管理(lǐ)體(tǐ)系要求及使用(yòng)指南》，重点完善算法应用(yòng)合规體(tǐ)系建设内容，对相关制度流程进行立改废，明确企业合规體(tǐ)系建设新(xīn)目标。按照《算法规定》的规定，建立健全企业算法机制机理(lǐ)审核、科(kē)技伦理(lǐ)审查、用(yòng)户注册、信息发布审核、数据安全和个人信息保护、反電(diàn)信网络诈骗、安全评估监测、安全事件应急处置等管理(lǐ)制度和技术措施，制定并公开算法推荐相关服務(wù)规则。尤其是使用(yòng)算法技术进行推荐服務(wù)的企业，需要承担个人信息保护和数据安全主體(tǐ)责任的合规义務(wù)，注重履行“通知-删除”责任，采取有(yǒu)效措施保护用(yòng)户个人的合法权利，切实做到将服務(wù)内容审查纳入算法运行的全流程中，完善考核问责追责机制。强化企业自律，积极践行社会责任，关注因未履行合规义務(wù)带来的民(mín)事诉讼、行政及刑事处罚风险，形成集事前防范、事中控制和事后救济于一體(tǐ)的闭环管控机制。
健全企业审计监督制度。作為(wèi)网络平台企业的法定义務(wù)，《个人信息保护法》第五十四条要求个人信息处理(lǐ)者应当定期对其处理(lǐ)个人信息遵守法律、行政法规的情况进行合规审计。主要内容包括：审查内部管理(lǐ)制度和个人信息备忘录的完备性和合规性；个人信息处理(lǐ)和管理(lǐ)工作；审计履行个人信息查阅复制、修正、移转及删除义務(wù)情况；审核个人信息相关的合同及其他(tā)法律文(wén)书；根据个人信息及数据相关法律法规的更新(xīn)，及时调整内部制度的情况。《算法规定》要求算法推荐服務(wù)提供者定期审核、评估、验证算法机制机理(lǐ)、模型、数据和应用(yòng)结果等。审计制度既包括制度审计也包括技术安全审计，通过审计过程发现算法应用(yòng)或制度执行的缺陷，并解决问题，可(kě)以帮助企业形成一个正向激励的合规提升机制。
探索建立算法合规在線(xiàn)监管系统。全面数字化转型对合规管理(lǐ)手段提出更高要求，企业需要加快提升信息化、数字化、智能(néng)化水平，合规管理(lǐ)系统向各级子企业、分(fēn)支机构和重要项目系统延伸，确保全面覆盖、落地见效。加快推进合规管理(lǐ)信息化、数字化建设，探索建立算法合规管理(lǐ)在線(xiàn)监管系统，加强对重点领域、关键节点的内控管理(lǐ)。将算法推荐服務(wù)的法律审核嵌入重大决策、重要业務(wù)管理(lǐ)流程，通过大数据等手段，实现算法合规风险在線(xiàn)识别、分(fēn)析、评估和防控。密切关注相关立法动态，使合规體(tǐ)系更好地适应法律的变化，有(yǒu)针对性地采取措施防范算法推荐服務(wù)的法律风险，助推企业数字化转型和高质量发展。