张新平

中南大学法学院副教授

一、问题的提出

自信息革命以来，新兴技术在使人类脑力显著增强、社会生产力飞跃发展的同时，也引发了诸多的恐惧和担忧。法律领域围绕此问题的探究主要有二：一是法律应如何有效应对技术应用扩张带来的负效应，如《网络安全法》《电子商务法》等的制定、颁行；二是如何将新技术作为治理工具应用到法治进程中，如智慧司法、行政执法等。焦点问题是，如何应对“互联网”“大数据”和“人工智能（AI）”等的技术扩张。算法应用的扩张与治理引起关注和重视的背后至少与两个因素紧密相关：第一，新一轮人工智能热潮由算法驱动，算法作为以数据为基础的人工智能的本质，在于从在线购物、信息检索到智能监控、无人驾驶，智能化社会生活的一切活动都有其身影。第二，人们害怕的，不再是计算机、互联网、大数据等新技术，而是算法与它们有机融合后所产生的无限趋近于人脑的“智能化”。

本文试图对算法扩张的底层逻辑及其偏离法治轨道背后的深层原因作更深入的理论分析，在原理层面借鉴描述性理论对算法与法律关系进行系统性省思，并在此基础上提出相关法律制度重构的可行进路。智能社会中算法的重要性、特殊性及其治理的复杂性，决定了探究算法的法律治理问题须追本溯源，“回归本源、回归技术、回归理性”，既不能就法治谈法治，亦不能就算法谈算法，须转换理论视角，以描述性理论为指引，从法律“应然”回归算法“实然”，回到算法本质及其与法律的关系上来。也即算法之治须在对算法本质性特征及其扩张逻辑进行系统分析和学术抽离的基础上，对算法与法律内在冲突这一根本性问题展开探究，进而基于算法框架和法治系统有机嵌合进行治理创新，推动算法与法律从冲突对垒走向互动融合，以实现算法治理服务于人类社会更加美好未来之终极目的。

二、算法的本质及其扩张

（一）算法的本质性征

早在1979年，伦敦帝国理工学院计算与控制系的罗伯特·科尔瓦斯基（Robert Kowalski）教授即在其论文中提出了算法构成的两个要素：（1）具体用来做事的逻辑要素；（2）决定如何做事的控制要素。此后，牛津大学计算机科学家约翰·麦克米考（John MacCormick）对算法的“二要素”概念进行了拓展，认为算法是“一种记录解决指定问题所需步骤的精确配方”。当前，区别于程序是根据计算机语言编写的以代码形式表现的并能由计算机识别并执行的指令集合，软件是一个乃至多个程序的集合体。算法是“解决问题的配方”的观点正日渐被理论界接纳。本质上，算法是一系列以代码为表达方式、以程序为载体、以解决特定问题为目标，并根据数据、环境等因素变化而变化的独立于人脑运行的步骤方法，具有强烈的目标指向性、技术性、开放性和基础性等本质性征。1.目标指向性。“算法是人类的工具，而不是人类的主人。”以深度学习算法为例，其作为“一种利用机器深度自主学习能力对现实生活中大量分散的、碎片化的数据信息进行自动化处理的机制”，探寻的是通往某一目标的路径。实际上，算法自诞生之初，所追求的目标便是为了解决现实问题、满足人们需求。如2000年初美国司法系统就用COMPAS算法智能系统来预测被告的人身危险性及再犯可能性，并以此作为量刑的酌定情节。在我国，淘宝、京东、今日头条等网络平台经营者会借助算法收集与消费者需求密切相关的数据，并以此为消费者制定专门的服务内容，提高客户黏性。可见，所有的算法都是为了解决现实问题而产生存在的，具有鲜明的目标指向性。2.高度技术性。“技术是人为了按照他的需要和目的改造世界而置于他自己和客观世界及其个别部分之间的东西”。算法的技术性集中体现在其产生、表达及运行层面：从产生层面看，算法是现代科技革命外化的产物，是人类社会数字化、网络化、智能化转型的基础设施与关键驱动力，其从诞生之日起，就先天性地拥有信息技术的一般属性；从表达层面看，算法建立在“0”和“1”的二进制信息技术代码基础之上，以程序、代码为载体和表达方式；从运行层面看，在以算法为核心的虚拟与现实智能化交互过程中，算法已经实质性地改变了人们的生活生产方式，如从以前的线下交流更多转为如今的线上交流，人们足不出户也能知尽天下事、购得天下物，生活更加高效、方便、智能，这些都是算法运行并作用于世界的结果。某种程度上，算法的高度技术性决定了其构造及运行表达往往难以被一般大众所理解，并可能生发技术的“反向适应性”效应，也即，算法不积极适应人类，而反向要求人类适应算法及其建立起来的技术系统，致使人类可能面临被算法统治的风险。3.开放性。虽然“算法黑箱”是客观存在的，但在技术层面，算法也并非绝对的不透明，而是具有一定的公开性。如实践中的开放性算法（白箱算法）、半开放性算法（灰箱算法）以及一些规模不太复杂的算法，业内技术人员就可以直接或间接通过“反向工程”还原计算机指令，推导出公开算法的具体步骤和操作过程。哪怕是具有自动决策能力的复杂智能算法，虽然其“与生俱来”就内含自动化、随机性的属性和特质，甚至还会在应用扩张中基于自主学习能力实现功能上的广泛拓展和迭代升级，但相关技术人员依然可以大致推算出其原始的核心步骤。一定程度上，对于专业的算法工程师及相关技术专家而言，算法基本上是透明的，具有明显的开放性特征。4.基础性。基础是指事物发展的起点或起主要作用的因素，算法的基础性集中体现在其与现代社会构成的关系层面。不论是在网络社会还是在智能社会中，算法作为现代社会不可或缺的基础性资源，是所有事务自动化、智能化执行的核心，是一切程序、软件、平台、智能AI等设计、构建、运行的前提，构成人工智能系统的基本面向，其在物理世界与虚拟世界智能化互动交流的过程中发挥着“根脚”作用。因此，算法具有鲜明的基础性。

（二）算法扩张的底层逻辑

伴随着算法在智能社会中的扩张渗透和创新突破，人脑仿生等高新技术的涌现，中枢型网络算法模式逐渐替代了传统的决策树型算法模式，并被广泛地应用于制造业、服务业、法律行业等不同领域。算法在加工制造、智能服务、智慧法院等方面发挥着越来越重要的作用。相较于传统决策树型算法模式，中枢型网络算法的学习性和交互性更强、智能化程度更高，但其并未脱离算法的本源性特质，即其所依赖与存在的综合载体始终是“为实现某个任务而构造的简单指令集”。从算法扩张的动态演进和运行机理看，不论是传统的决策树型算法还是新兴的中枢型网络算法，都遵循一定的规律、具有相同的内生逻辑。1.算法设计的前置。基于功能主义的解释立场，算法是一系列以解决特定问题为目标，通过预设步骤对问题进行“一种有限、确定、有效”的处理，并根据数据、现实环境等因素变化而进行分析学习的独立于人脑运行的方法。算法的步骤预设也即算法设计，是算法对具体问题进行解决处理的前提。实践中，正是因为算法开发者的反复论证和科学设计以及无数次的正确性证明，算法才得以产生和有序运行。基于此，算法在数据的驱动下，完成虚拟世界与物理世界一次又一次的智能化互动交流。虽然算法经历了“古代算法思想→人工智能时代算法→量子时代算法”的演进历程，但算法设计的前置性始终没有改变，这是因为不论何种算法，没有前置性的步骤方法的预设，算法可能就不会存在，也就无所谓算法的应用扩张和纵深渗透。2.海量数据的驱动。算法运行的目的是寻求问题的“最优解”。本质上，算法的设计和正确性证明是一种抽象且综合的智力性活动，算法要获得具体问题的答案，必然依赖海量数据的驱动。实践中，算法只有通过海量数据分析确定“特定输入和特定输出之间的关系”，才能自动化决策，实现从设计成型到具体问题解决之目标。3.虚实交互的智能化。与网络社会中虚拟与现实的“机械化”互动交流不同，智能社会中，算法使虚拟世界与物理世界的“智能化”互动交流及有机嵌合成为可能。某种程度上，算法自主化决策对机械的人工指令的替代，正是其推动“机器越来越像人”的具体体现。算法自主化决策本质上是对人类智能的模仿、延伸和超越。实践中，也正是因为这种模仿、延伸甚或超越，算法的虚实交互愈益呈现出高效化和智能化趋势。4.算法学习的自主化。算法学习是指算法在实际运作时，自主借助分析历史数据、反复试错等方式，通过对信号算法、监管算法、预测算法等集合，实现自我决策与优化，对问题进行更为完善的处理。在这种情境下，算法基于对现实生活中大量分散的、碎片化的数据信息的自动化处理，使算法使用者从机械的、人工的“新问题—重新设计算法”这一模式中解脱出来，实现算法决策和学习的自动化、深度化，对固有算法不断进行优化完善。正因如此，算法的潜在能力才得以创造性释放、跨越式提升和颠覆性突破，进而实现智能社会生活生产的日趋便捷化、高效化和智能化。

三、算法与法律的内在冲突

我国的算法扩张在实践中往往会偏离法治轨道，算法这一智能社会的“超级力量”并没有在法治实践中被“驯服”，造成这一悖反现象的根本原因在于算法与法律之间的内在冲突。一方面，人们期待法律能够对算法进行转化，使其尽快融入现代社会文明和日常生活，成为人类可控可用之物。另一方面，既有法治体系又无法满足这一期待。智能社会中算法的日益纵深渗透和创新突破进一步激化了算法与法律之间的紧张关系，进而可能引致更多的法律风险和治理难题。因此，欲确保算法治理在法治轨道上有序进行，不能就治理谈治理、就问题谈问题，须以描述性理论为指导，回到算法与法律关系的分析上来，透过算法偏离法治轨道理论叙事的表象，对算法与法律的内在冲突展开深入系统的分析。

（一）算法的技术中立性与法律的价值性相抵触

算法的技术中立性，是指作为方法的无伦理的计算机算法不关心其决策对象的身份、地位、性别或肤色等因素，仅根据其预设步骤，遵循相同方法、同一规则作出每一项决策。算法作为一种以问题求解为目标并独立于人脑运行的步骤和方法，其技术中立性的理论根基在于“技术中立论”。“技术中立论”最早源于1984年美国联邦最高法院的“环球电影制片公司案”，该案中法官认为如果技术可能被广泛用于合法、不受争议且具有实质性非侵权的用途中，即使制造商和销售商知道其设备可能被用于侵权，也不能推定其故意帮助他人侵权并构成帮助侵权。技术作为解决问题的方法和工具，在发挥其功能和作用的过程中只遵循自身的功能机制和原理，不具有价值偏向性。与算法（技术）的中立性不同，法律作为统治阶级意志的体现，自诞生以来便具有强烈的价值偏好和取向。作为我国的根本大法，《宪法》不仅设专章对保障公民人身自由权、平等权、政治权以及社会经济文化权利作出明确规定，而且通过规范公权力机关职权范围与边界，彰显宪法保障私权，限制公权的价值理念；与此同时，《宪法》还通过合宪性解释的途径以实现其规范公共权力行使和保障公民基本权利的价值理念。当然，依循《宪法》价值理念的部门法也有各自相对独特的价值取舍和偏向性，如民法的价值在于保护民事行为的自由、公平，保障民事主体的人身和财产安全；刑法的价值在于惩罚犯罪，保护人民。算法的技术中立性与法律的价值性紧张抵触，是诱发算法法律治理难题的重要原因。

（二）算法的弱解释性与法律的可解释性格格不入

算法是专业的设计者对解题方案准确且完整的描述，不论是算法之问题求解方法与步骤的设计与分析，还是算法自身的正确性验证，都因其较强的专业性和技术性而令人难以理解。算法的更独特之处在于“算法黑箱”的存在，即便接受过专业理论知识和技能培训的算法专家，可能也会因为算法的随机性、动态变化性和部分算法结果的不确定性等，也难以准确且及时理解、解释那些自己设计但经过自主学习后的算法，因此算法具有一定的“不可解释性”。随着算法在我国的迅猛扩张和创新突破，算法的规制问题也受到了前所未有的关注。与此同时，算法设计者和相关专家对算法运行逻辑和机理的理解与把控也愈发深入，例如针对深度学习的算法，可以通过规则变换，将包含卷积运算和隐层的神经网络转换为对输入元素的处理规则，从而达致结果的可预测和可解释，又或者通过AGN等解释器的运作实现对算法的解释；算法过去的“不可解释性”正在转变为现阶段的“弱解释性”，最终可能实现算法的“可解释性”，这是将算法纳入法治轨道的重要前提。法律解释是对法律进行进一步说明的复杂活动，其“既是实施法律的一个前提”，也是“发展法律的一个方式”。诚如萨维尼所言：“解释法律系法律学之开端，并为其基础，系一项科学性工作，但又为一种艺术。”法律往往以明确具体的语言文字进行表达，并必须向本国或本区域内全体社会成员公开，因此，能被知悉和解释是法律文本制定的基本要求。换言之，只要社会成员能够认识和理解本国或本区域的语言文字，便能够通过文本或文本解释知悉法律的外在表达，在法律的框架下进行日常的生产生活。“法律未经解释不得适用”，一定意义上，一切法律的性质、规则、原则和概念均应在一般理性人的大脑所能理解的范围内，一切法律皆需且必须被解释。在算法规制日益被重视并迅速兴起的背景下，虽然算法解释和法律解释并非同一层面的事物，两者概念中“解释”的含义也有着一定的区别，但若要将算法纳入法律的规制范围，必然要求运用法律语言对算法的过程运行机制和结果的形成逻辑进行解释。也即法律解释的作出须以算法的“可解释性”为前提，但现阶段算法的可解释性程度远远未达到法律关于“可解释”的标准和要求。即便在未来，算法运行的奥秘或许会被人类悉数掌握，但如何将程序语言转化为自然语言仍是十分棘手的难题。

（三）算法在应用中的歧视性与法律的平等性相互龃龉

歧视性（Discriminatory）与非歧视性（Non-discriminatory）相对应，是指无合理理由却又有差别地对待不同对象的态度和做法。算法作为一种解决问题的数学过程，其“本身只是一种特定的思维路径或方法”，并不具有歧视性，如梯度下降法、sha-256、随机森林等模型算法是天然一视同仁和无歧视的，但算法一旦成为程序软件被应用，一些与双价有关的个性参数“以具有统计学意义的方式同时与构成区别对待的合法理由以及歧视特征相关联时”，就“有可能对个体权益、公序良俗及公共安全等法益造成风险”，算法的歧视性也由此而生。特别是在社会趋于数字化背景下，人类日益被各种隐形的算法包围，而这些“隐含歧视内容的算法程序”，则极易“带来难以被一般人识别的歧视”。通俗来讲，算法的歧视性是指某些算法的设计者在自然与不自然之间有所偏向，将自身的利益取向或者偏见植入输入层数据，算法的技术中立性被人为破坏，其所谓的“技术天平”从一开始就可能是倾斜的，“算法黑箱”继而成为掩盖算法权力追求利益的“面纱”，最终在算法应用扩张中滋生歧视性问题。以今日头条为例，尽管其宣称自身算法中立，但在算法的实际应用中却采取的是另外一种价值立场：以商业价值与经济利益作为新闻媒体的最大价值，利用算法实现最大量的推送、最高的点击率，最终追求利益的最大化。与算法的歧视性不同，平等地对待所有公民是法律的基本要求。法律的权威不仅仅是因为其具有国家强制力，还在于其平等适用于所有人。换言之，平等是法律的根本追求和基本要求，平等地适用法律既是维护法律权威性的需要，也是法治的内在要求。实际上，算法本身可能并不具有歧视性，但算法的设计和使用却存在歧视的风险，尤其是大量的算法源自以营利为目的的互联网企业。实践中，作为算法掌控者的网络平台，在“引领数字经济模式和场景创新以及生产方式和社会转型”的“破坏性创新和动态性竞争”过程中，往往自然不自然地运用算法“技术优势”，如“算法黑箱”“个性化定价”等实现逐利之目的，致使算法引发更多的算法恐惧和算法焦虑。无疑，算法的歧视性与法律的平等性之间的张力与矛盾，可能诱发算法治理偏离法治轨道，进而成为制约智能社会算法治理体系和治理能力法治化、现代化的重要原因。

（四）算法结果的不确定性与法律的确定性天然对立

算法程序是一种专业性的创作。虽然算法底层代码的运行依赖于算法的设计者，其运作的初步方法和处理步骤也具有确定性，但是由于算法本身具备在海量数据中进行自主学习并自动处理的能力，算法运行结果的可解释性相对较弱。有的算法则自始至终就强调随机性，其追求的就是基于机器的自主性得出“不确定”的结果，如深度学习算法。算法的这一特征也被认为是算法的“弱鲁棒性”，意指算法在面临复杂多变的实际应用场景、非正常恶意干扰等情况时，可能产生意外非正确结果。与算法的这一特征相对立，法律却是明确、稳定且具有普遍约束力的，具有鲜明的确定性。“确定性是和谐之母。”法律的目的就在于以鲜明的确定性保障法律的有效性、稳定性以及权威性。某种意义上，“法律不确定时，法律就不存在”。理想的算法是“一环套一环、一步接一步”地解决问题的数学过程，是相对清晰客观和理性的，彰显的是数学的数字之美、理性之美和逻辑之美。但世界充满未知，现今社会仍存在一些人类找不到规律和有效解决的复杂难题，甚或有一些问题的解决方法和过程可能异常复杂烦琐，解题的工作量也远超人脑荷载，有的甚至连计算机超算都“吃不消”。所以，一种有违理性的独特算法——随机算法应运而生，这是计算机算法科学家作出的选择，是算法内涵弱鲁棒性的原因。即随机算法看似违背了相对清晰客观和理性的要求，但其不仅能通过随机性选择和概率性判断，突破单纯的机器计算和人脑固定思维的限制，而且还能以高度“自主性”和“能动性”，在综合各种内外部因素自行评估判断并作出决策的基础上，形成更具新颖性的处理结果和更加智能化的解决方案，实现对人脑运算能力的有益补充甚至是替代。确定性是法律最重要的特征之一，法律应当且必须是可感知且可实施的；中国特色社会主义法治高效实施的根本在于“法律规范本身具有可实施性、可接受性以及法律规范自我实现的动力与能力”。法律须是明确可感知且具体可实施的，但算法结果的不确定性又不可避免，如何弥合算法结果的不确定性与法律确定性的内在冲突，是智能社会算法法律治理无法回避的理论难题。

四、妥善处理算法与法律关系的正当性和可能性

（一）妥善处理算法与法律关系的正当性

理论是“制度的根基”和“实践的先导”。如何实现对算法的有效驯化，不仅直接考验治理者的治理水平和现行法律治理制度体系，而且对相关智识理论资源供给提出了更高要求和崭新挑战。尤其是随着算法的迅速扩张渗透和与之紧密相关的大数据、云计算、物联网等新技术的日益创新突破以及算法治理实践的不断纵深推进，都内在地要求治理者妥善处理算法与法律的关系，吸收新型先进的治理范式和理论。算法治理是由多方主体通过平等合作、对话、协商、沟通等方式，依法对算法进行引导和规范，最终实现公共利益最大化的过程。故此，有必要基于算法的法律归化理论，推动法律治理与算法机理的有机融合和算法向善，最终实现公共利益的最大化。一方面，这是充分汲取算法独特优势和法律治理能量，破解算法治理实践困境和理论难题，不断提升治理法治化现代化水平，推进算法繁荣发展的内在要求；另一方面，这也是妥善处理算法与法律关系的理论前提和正当性基础。

1.助推算法的法律归化。技术归化是指各种新技术必须得到转化，使其从陌生的、可能有危险的东西转化成能够融入社会文化和日常生活之中的驯化之物。“算法的法律归化”源自于“技术归化”理论，意指通过法律手段对算法进行转化和驯服，使其融入现代社会生活，成为具有使用价值的可控之物。算法是一系列解决特定问题并随数据、环境等因素变化的且独立于人脑运行的步骤方法，是人类为了按照自我需求和目的改造世界的程序设定，其本身是没有价值观的。但是，基于算法应用而产生的结果在实践过程中往往会滋生不平等问题，学界对因算法而生的社会问题征讨之声也络绎不绝，给算法贴上了偏见性、歧视性等标签，对其进行抵制。事实上，这一观点本身就带有歧视性。算法作为一种为人类服务的方法和工具，其天然地具有技术中立的特质，并无好坏之分，算法之所以产生歧视，在于算法的开发者和使用者的偏向、取舍。如德国政府使用算法来解决养老金基数计算问题，减轻政府工作人员的工作负担；在国内，算法应用于日常生活的方方面面，如购物、医疗、教育等，极大程度地方便了人们的生活。因此，算法具有歧视性、偏见性的观点混淆了“技术本身”与“技术使用”之间的关系。受表达习惯和普遍使用等因素的影响，算法设计的无价值偏向被算法应用中的偏见歧视所“掩埋”。正如有学者所言，“算法的法律化并非要通过法律来规制算法本身，而是针对算法研发者和使用者”。因此，将算法与法律统一于治理理论项下，推动算法与法律从冲突对垒走向有机融合，既有利于推动“算法的法律归化”进程，亦是智能社会法律治理的必然选择和基本要求，是大势所趋。只不过，如何对算法进行驯服，使其从陌生的、可能有危险之物转化为能够融入现代社会的文明之物，将长时间考验治理各方的治理水平。

2.推动法律治理与算法机理的有机融合。算法作为问题求解的“配方”，是“运行独立于人脑的计算机系统的具体步骤或方法”，其最重要的价值之一在于为智能机器与普罗大众、虚拟世界与物理世界间更高效和优质的互动交流提供了更为便捷智能的机制和通道。某种程度上，治理者对算法的本质特性、内在机理，及其与法律既冲突又统一关系的认知解构和理解程度，直接决定了算法治理法律制度供给与实践制度需求的针对性和匹配度，关乎算法治理的水平和质量，甚至影响数字经济发展和治理的法治化和现代化水平。自20世纪60年代的“法律稳定论”和“法律改造论”被关注以来，一种将法律的制定、适用及相关过程看作是可变化的和场合性的理论范式日渐被接受，此即诺内特和塞尔兹尼克（Philippe Nonet & Philip Selznick）提出的“回应型法理论”。该理论认为，法律不是消极地、被动地因应社会，而是积极地、能动地回应社会，法律既保持自主的稳定性，又具有能动的开放性。基于这一理论，在算法应用迅疾扩张和技术激变的智能社会，法律需要也必须及时对技术发展创新与社会变革转型作出回应，遵循算法架构体系、内在机理和运行规律，进而实现对算法的法律归化。从法律功能主义理论出发，法律的拟制与适用的实质动力源于满足解决社会现实问题的需求，因而，问题生发的领域、程度和内嵌的机理不同，治理制度安排和规制体制也就不同。就算法治理而言，其相关规范与现实问题的针对性和匹配度直接影响科学完备的算法法律制度体系的建立。在妥善处理算法与法律关系，推动算法治理法治化现代化进程中，治理者对算法应用渗透的规律机理及其与法律既冲突又一致关系的理解越深刻、把握越全面，其算法治理的法治化现代化能力和水平相应就越高；算法的扩张创新及其治理实践的纵深推进，也愈发要求治理者能够积极主动回应、科学有效地消化和全面充分地吸纳算法的本质特性、扩张逻辑及其与法律的复杂关系，通过妥善处理算法与法律的关系，实现算法的“法律归化”。这既是建立科学且完备的算法治理法治体系有效应对算法治理的不确定性、弱解释性和歧视性等问题的实践需要，也是推动法律治理与算法机理的有机融合、动态平衡和同频共振，建构现代化法治化算法治理范式和机制的内在要求。

3.促进算法向善。一定意义上，技术作为一种工具，其自身并没有道德伦理等品质和善恶倾向，但开发应用技术的人却是有价值取向的。算法作为一种解决问题的步骤和方法，从更广泛的视角看，其也被理解为是“一种科学技术或工具”。从这一维度出发，算法的工具性决定了其本身并没有善恶之分，只不过，围绕算法进行设计、开发、经营和使用的人往往具有利益取舍和价值偏向。算法向善的目的在于防范算法扩张与治理可能偏离道德伦理和法治轨道的潜在风险，对算法的开发应用和维护监管主体进行道德引导和规制，并在全社会树立向善的价值导向，以推动算法向好、向善发展，进而实现算法更好地服务用户并造福社会。算法与生俱来的难以解释、不透明和动态变化属性，决定了算法设计、开发、经营、使用和监管的人，在道德伦理正向轨道上肩负着更大的社会责任，具备更多的公益心，推动算法为更广泛更多元的群体服务以造福人类，而非算法沦为为少数人谋利益的工具。正如“科技向善”理论的提出者保罗·米勒所言：“希望确保技术公司专注于回馈世界，而不仅仅是占领我们的屏幕时间。”因此，包括算法与法律冲突纾解在内的一切算法治理活动，都内含着算法向善的价值目标。实践中，随着算法应用的迅速扩张，智能社会出现了类似“摩尔定律”的现象，算法在为智能社会提供源源不断的超级力量的同时，也隐藏着诸多风险，如微软公司的人工智能聊天机器人Tay上线首日，便被使用者发现具有反犹太人、性别歧视、种族歧视等不良倾向，不到24小时便被迫下线。可见，算法一旦被人类主观偏见裹挟，便极有可能偏离主流道德和价值观，滋生诸多社会伦理风险。故而，应通过对算法与法律关系的正确处理，有效纾解二者的冲突，促进算法向善，实现算法在法治的轨道上健康、有序、繁荣发展，推动智能社会朝着更强智能化、更高法治化、更快现代化发展迈进。

正确处理两者的关系还应兼顾算法的安全有序与创新发展。算法作为智能社会中最为重要的认识世界和改造世界的工具之一，天生具有创新的基因。创新既是算法产生的根源，也是算法自身繁荣发展的需要。在技术迭代更新的智能化时代浪潮中，没有算法的创新突破，就没有算法的生存空间。可以说，创新是算法应用扩张和迭代升级的本质，亦是算法治理必须尊重的基本原则和理念。算法与法律矛盾的有效纾解，不仅有助于稳定可预期的社会秩序的建立，而且有助于为算法发展创新提供良好的社会环境，助推算法既安全有序又创新繁荣发展。事实上，算法作为智能革命的产物，是智能社会人脑与机器、虚拟与现实智能化互动交流的关键所在，唯有在安全有序的社会环境下坚持创新、不断突破，才能持续提升核心竞争力，才能更好释放出其推动我国数字经济繁荣进步的强大引擎效能。

（二）妥善处理算法与法律关系的可能性

算法与法律客观存在的对立与冲突，并不意味着算法无需或无法被纳入法治范围，不能通过法律实现有效治理。算法与法律虽存在一定的冲突对立，但二者的矛盾并非完全不可弥合，在国家治理体系和治理能力法治化现代化的语境下，算法不仅需要而且可以被纳入法治范围，进行法律治理。一方面，算法与法律在确定性、解释性、中立性以及平等性等方面的冲突客观地存在；另一方面，基于算法展开的治理亦“区别于以国家为核心的法律治理方式”，其甚至在某些场合还会对法律治理产生制约，但这不意味着算法与法律存在绝对的鸿沟而无法跨越。

恰恰相反，在算法的诸多性征中，既有一部分表现出与法律存在一定的紧张关系，也蕴含有大量与法律“有机统一”的因子。如“法律与算法都是为实现特定目标而构造的指令集”，都有鲜明的目标指向性；“两者都以过滤信息、建构模型为手段”，都具有专业性、稳定性等特征。实际上，算法与法律的统一性因子与内在关联，既是将算法与法律统一于治理理论下的基本前提，也是推进算法治理创新，实现将算法纳入法治轨道的理论根基。一方面，算法不仅可以丰富智能社会法律治理的方式方法，而且有助于优化法律治理的组织结构；另一方面，“代码表征的算法规律在一定程度上也能够表达法律的运行规律”，法律的算法化也“倒逼法律人更加精准和体系化地表述法律知识”，助推法律表述与制度规则的精准化、专业化和体系化。算法与法律存在对立与冲突是不争的事实，但算法与法律的一致性却广泛存在，基于二者的统一元素和因子进行理论铺设和制度搭建，是使算法与法律冲突有效纾解的前提，也是将算法纳入法治轨道，对其进行有效治理且必须关照的重点内容。算法与法律的统一性，使算法的法律治理成为可能。

五、治理创新：将算法与法律统一于治理理论之项下

智能社会面临深刻的法律变革，但学界对算法法律治理的既有理论探究，更多是在“头痛医头脚痛医脚”的问题导向下的表层回应。由表及里的深层问题在于，如何通过算法与法律关系的妥善处理，实现对算法的有效有序规训，使其从冲突对垒走向互动融合，进而融入现代社会治理文明与生产生活之中，以彰显国家治理体系和治理能力的法治化、现代化，这是探究算法与法律内在冲突问题的缘由之所在，也是将算法与法律统一起来实现治理创新科学性和优越性的体现。

（一）搭建“设计可知、数据可信、代码透明”的算法结构框架

传统以“平台责任”为中心的网络社会法律治理范式，强调将程序、软件、算法纳入网络平台治理之下，内涵的是以平台为中心的社会关系、技术要素以及法律规则，具有明确性、可解释性的特征。随着算法本身的创新突破和算法应用的纵深渗透，算法的智能化特别是强人工智能算法的加速迭代升级，算法在推动信息智能化传播、数字经济繁荣发展、智能社会跨越转型等方面发挥重要作用的同时，算法歧视、信息茧房、极致推荐等算法治理问题也频频发生。算法扩张引发的算法与法律的冲突及其治理难题，表面上是因为算法应用实践远远超前于算法治理的理论探究和资源供给，其背后更深层的原因在于，传统以“平台责任”为中心的算法治理模式与算法法律治理实践不匹配、不协调，算法的不透明、不公平、弱解释性与以“平台责任”为中心的治理模式的明确性、可解释性相悖离。算法的法律治理需要也必须回到算法本身，尤其是算法与法律的内在冲突的纾解和张力的消弭，迫使治理者须在深刻理解和准确把握算法的框架下进行算法法律治理。故此，算法治理须从算法的设计、运行和表达切入，搭建“设计可知、数据可信、代码透明”的算法结构新框架。

1.算法设计可知。“设计可知”指的是算法设计过程中旨在解决的问题以及算法的初始方法步骤可知，即算法设计应是明确且可被感知理解的。算法往往通过程序代码、软件系统实现解决问题的目的，从而发挥出其独特的治理效用。算法治理的前提是算法可责，算法可责的前提则是算法可知，而算法可知的有力工具便是算法解释。不可否认，从学习性角度出发，算法确实具有较弱的解释性，其在不断地程序化、系统化、平台化发展后和自我深度学习后，存在“成长”为无限趋近于人脑的可能，因而难以被理解和解释。但是，从算法是以解决问题的方法步骤的定义出发可以发现，算法解决的是何种问题是可以解释的；对于最初始状态的算法，专业的算法设计者和算法专家可以且一定能对其运行的步骤、解决问题的方法和决策的原因进行解释。算法设计是可以被知悉理解的，否则算法就不可能被设计出来，也就无所谓算法的法律治理了。对算法的设计者而言，算法的开发也许没有那么艰难，但用常规方式（例如权重方程）理解和表达算法运行的过程可能存在诸多困难，尤其是强人工智能算法，可能具有“能设计而无法被解释”的内在逻辑。未来，算法可能会随着科技的进步而被明确地解释。实践中，设计者越从全局或者局部探索算法运行的中间过程，深度逼近算法的处理结果，就越能充分地印证算法设计的正确性和可信性。实际上，算法设计可知既是其可以被监管部门的专业人员所认知的最低限度，也是最基本的要求。设计可知不要求其设计对全体社会成员充分公开，恰恰相反，为保障算法研发者、设计者和人工智能控制者、经营者的知识产权和商业秘密，算法设计无须向全体算法用户公开，设计可知不能也不应该要求被全部社会成员熟悉和认知。

2.算法运行数据可信。“数据可信”是指在算法的运行过程中为保证算法的安全稳定运行，必须保证作为算法运行支撑的数据真实合法有效可信。算法以数据为支撑，在单纯讨论算法监管时，更应关注数据的真实性和可信度。这是因为，无论是政府抑或普通用户，从第三方的角度都无法知晓算法本身运行的机理及其决策背后的运行过程和深层逻辑，只能基于算法设计者所提供的相关信息对算法进行理解。如果驱动算法运行的相关数据不真实，即使算法本身可解释且公开、透明、可行，也会因数据的虚假得出不真实的结果，这将与算法之服务用户、造福社会的根本目的“背道而驰”。数据的真实性和可信度的确保，离不开数据产生者、数据处理者和数据监管者的诚信意识和务实态度。当然，数据的真实可信不能仅靠上述三者的自觉，而需要法律对上述三种主体科以法律义务和责任，明确数据产生者、处理者和监督者应当秉持诚实信用原则来进行数据产出、处理数据和监督算法。如因虚假数据的产出、处理或监管失职而招致他人蒙受不利者，应当承担相应法律责任。

3.算法表达代码透明。“代码透明”是指在算法的表达过程中要求算法的开发者、管理者或者使用者公开算法制作、运行过程中的逻辑或规则。现阶段的算法可解释性仍较弱，但作为算法具体表达方式的代码却因具备“语言的基本特征”而可被理解。算法是抽象的步骤方法，其本身并不会对现实造成实质性的影响，而是通过具体的以代码为基础的程序软件系统的运转来影响现实。可以说，代码是算法的表达方式，以代码为基础的程序软件系统是算法的载体。代码是机器语言，其作为一种语言当然具备语言所必备的指向性、描述性、逻辑性的特征，进而使算法的具体含义与步骤方法能被人类所理解。代码透明并不等于算法可解释，即便算法代码被公之于众，其输入的数据与输出的结果之间所存在的隐层逻辑仍可能无法直接被破解。通过公开算法源代码，提高算法代码的透明度，能够为算法的“可解释性”提供有利前提，帮助设计者们从技术逻辑破解算法模型，解释算法在逻辑上的运行原理，因此代码透明是算法可解的内在要求。代码透明在技术上具有可行性，但要以此解决算法治理问题，亦需要法律的支撑。第一，政府应当组建专门的技术团队，并建立代码备案机制，推进代码公开工作；第二，明确政府在合理条件下，有监察企业程序软件系统源代码的权力；第三，须明确算法平台企业应承担配合政府进行代码公开的义务和享有及时申诉的权利。

刑不可知则威不可测。算法治理亦是如此，不清楚其内部架构机理，则难以探明其运行扩展过程中可能带来的各种负效应，也就无法对其进行有效有序治理。故此，有必要基于“设计可知、数据可信、代码透明”之算法的设计、运行、表达三个层面解构算法，以确保算法的可解、可知、可责，从而实现算法法律治理的可行和可预期，推动算法在法治轨道上有序运行，不断提升算法治理的法治化、现代化水平。

（二）型构算法与法律有机统一的法治系统

所谓算法与法律有机统一的法治系统，是指在遵循算法架构体系、内在机理、运行规律和法治一般原理的基础上，将算法与法律统一于治理理论之下，实现算法与法律互动融合的算法法律治理。“每一种技术或者科学的馈赠都有其黑暗面。”一定意义上，算法“暗面”客观存在，算法与法律的冲突不会自动消失。故此，有必要全面科学地把握算法与法律的关系，既要正视二者矛盾冲突的存在，也要看到二者的一致性和互动性，基于算法的“设计可知、数据可信、代码透明”框架结构，从算法治理之法的制定、实施及其保障层面入手，型构算法与法律有机统一的法治系统，以实现算法与法律冲突的纾解，推进算法治理的法治化。

1.法律不直接规范算法。智能社会中，算法法律治理首要任务不是直接调整算法本身，而是基于算法的内在机理和运行实际，严格按法治原则科学配置算法治理的权力体系，从而建构科学完备的算法治理法律制度体系。法律主要通过调整人的行为来实现法律关系的调整，因而算法治理法律制定的重中之重在于，通过科学赋权与有效分权，为算法的管理者、设计者、经营者和使用者划出边界，防范算法滥设、滥用、滥管。现代治理理论体系中，政府早已不再是唯一的治理者，尤其是伴随治理理论在我国的引入和发展，“共建共治共享”和“社会治理共同体”理念正深入人心，建构多主体“共建共治共享”的算法治理格局正在成为社会“共识”。因此，有必要以立法基础理论和算法“设计可知、数据可信、代码透明”框架体系为基本遵循，重新配置算法治理的权力体系，明确政府、企业、行业组织、公众多元治理的主体地位，并通过建立法律与技术良好嵌合的算法设计运行、表达使用及其监督管理制度体系，形成“政府监管、社会监督、公民维权、企业自治”的算法治理格局，进而达致算法法律治理多元主体之间既协同共治又相互制约的效果。某种程度上，这既是算法与法律在确定性、解释性、平等性等层面冲突纾解的必然选择，也是现代社会多元共治治理理论与制度的内在要求。严格依据宪法法律，既设定权力职责和权利义务，又明确治理责任，为算法治理提供科学完备的法律制度体系，确保算法在法治的轨道上运行发展。还须在算法之“设计可知、数据可信、代码透明”的框架下，通过算法设计备案登记和代码公开透明等相应制度的建立，推动算法和法律的良好嵌合和有机统一，维护和彰显法律的权威。

2.根据算法机理进行算法治理。法律的生命在于实施。算法与法律内在冲突的有效弥合及其负效应的有效抑制，不仅须有科学完备的法律制度体系支撑，而且需要法律制度体系的高效有序运行。因此，在具体的法律运行和动态实施过程中，应打破传统，建立算法与法律有机统一的法律实施体系，推动静态的算法治理法律制度在复杂的治理实践中高效地“动起来”，使“制度之树”绽放出“生命之花”，进而发挥其应有的“权威性”，至关重要。在智能技术革命激剧变革与算法应用加速扩张的智能社会，算法的应用扩张在推动互联网信息传播、数字经济繁荣发展和社会文明发展的同时，算法与法律的冲突以及算法侵蚀自由、减损权益和破坏社会秩序的负效应存在。解决问题的关键在于，治理者须正视算法是兼具不透明性、动态变化性、基础性和专业性的特殊之物，并在遵循法治一般原理的基础上，根据算法机理进行算法治理。针对算法因弱鲁棒性导致结果错误而侵犯用户权益，因弱解释性导致的算法监管难题，因歧视性而引起的“平台算法合谋”以及“大数据杀熟”等等，算法法律治理的理论和制度更需要且必须对算法的本质性征和内在机理作出积极回应。具体到法的实施而言：一是严格审查平台企业是否完全履行算法安全平等保障义务，核实算法设计目的、初始步骤方法、代码备案登记和公开制度是否贯彻执行；二是重点关注平台企业是否建立完备的算法弱鲁棒性评价和补全机制以及歧视应对方案，是否进行了行之有效的自治与管理，算法使用者的正当合法权益是否得到充分保障和及时救济；三是谨防享有掌握市场准入、资源调配和规则制定权的平台企业，利用算法技术与信息优势，垄断市场和侵害算法使用者权益；四是法的实施者本身在依法进行执法、司法和相关自治活动，推动法律高效运行和平等实施进程中，还须认识到算法的不确定性、弱解释性和歧视性是客观存在，故无论是执法者还是司法者，都须正视算法“暗面”之负向效应与“明面”之正向效应，将追求算法负效应的最小化和正效应的最大化作为目标，并将其贯穿到算法法律治理具体工作的各个环节和全部过程。反之，倘若治理者无视算法的特殊性，将其和一般事物同等对待，固守传统法治方式，任其冲突及负效应的“自由生长”，不仅会滋生“算法歧视”、“算法侵权”和“深度伪造”等诸多问题和伦理风险，还会损害法律的科学性和权威性，甚至可能危及公共安全和国家安全。

3.推动新兴技术工具融入治理实践。对算法进行法律治理和运用算法以辅助法律治理，是妥善处理算法与法律关系时不可回避的两个方面。“算法的法律归化论”认为，算法等各类新技术必须经由法律、政策、道德等手段对其进行转化，使其成为能够融入现代文明和日常生活的驯化之物。但是，算法、网络平台、大数据、云计算、人工智能等不仅仅是被治理的对象，也是治理的手段。一方面，算法需要被法律驯化，使其融入现代文明和日常生活；另一方面，新技术亦可以成为驯化算法的手段，为法律治理的方式、机制和治理组织结构提供新的动力。算法和法律作为社会治理的两大方式，在执法、司法、守法等法律实施领域均具有不可替代的重要价值。因此，算法的法律治理须积极推动新型技术工具融入治理实践，充分发挥新技术对法治的支持和保障效用。实践中，在一定范围内运用算法等新兴技术工具进行信息智能化比对、筛选、屏蔽和控制进行“自我治理”，以推动信息流转和相关行为者行为符合法律要求的做法早已存在，且取得了良好的法律效果。当前，借助数据库、代码、算法等技术手段和资源推动“以技治技”的做法正在被接受，如隐私保护过滤器、数据匿名化技术、视像监察系统、基于光流的视频人脸匿名技术等在智能视频监控算法治理中被大量应用。申言之，算法法律治理不仅须关注法的制定和实施，还须高度重视算法等新兴技术的独特价值和治理优势，突出强调技术工具性价值和机理性规律，将各类新技术、新工具纳入法律实施范畴，以推动技术赋能算法治理，实现“以技治技”，引导算法治理真正地进入智能化、法治化和现代化轨道。

六、结语

我国已进入智能社会，对算法这一智能社会的标志性生产力和超级力量进行法律转化和“驯服”，将算法与法律统一于治理理论之下，推动二者从冲突对垒走向互动融合，进而使算法有序融入现代文明和日常生活，重要且紧迫。本质上，算法治理是通过协调利益冲突以实现特定价值诉求的社会活动，其终极目的为人类建构正义的社会秩序。一定意义上，关于算法本质、扩张逻辑和算法与法律的冲突及其治理创新的讨论，都是对算法治理具体过程的探究，而如何妥善处理算法与法律关系，基于二者的“有机统一”，将算法与法律统一于治理理论之下，推动算法在法治的轨道上健康、有序、繁荣发展，以真正实现算法治理服务于人类社会更加美好之未来，方是目的。智能社会是比网络社会更加纵横交错、风险叠加的非线性运作的社会形态。智能社会算法的法律治理，既是一个亟待解决的时代议题，也是一个复杂多维的系统工程，本文无力也无意面面俱到地对其进行讨论。某种程度上，透过算法偏离法治轨道之理论叙事的表象，回到算法与法律内在冲突这一根本性问题上来，并基于将算法与法律统一于治理理论项下的摸索与创新，达致算法被法律“驯服”，并使其从陌生的、可能有危险的东西蜕变为能够融入现代文明和日常生活之物，助推算法治理为人类社会更美好未来服务之终极目标的实现，既是算法扩张理想图景之擘画，亦是算法治理理论叙事之有益尝试。

（原文刊载于《法律科学》2024年第2期）

《数字法治》专题由上海市法学会数字法学研究会特约供稿，专题统筹：秦前松。