作者：薛澜，清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长。

大家上午好！非常高兴有机会今天跟大家来分享关于人工智能治理的一些想法。

我想今天从三个方面跟大家来交流：首先，人工智能未来带来的收益和可能带来的风险；二是在人工智能治理方面中国做过什么样的实践，以及它可能带来的启发；三是讨论人工智能的国际治理问题。

第一方面，人工智能发展可以给我们带来各方面的收益，有各方面广泛应用，我想这个大家比较熟悉。但我想在更加宏观角度来看，它能够为我们做什么？

2015年全世界193个国家在联合国共同签署了SDG，人类可持续发展目标，希望到2030年能够推动人类社会更好地发展。193个国家所签署的SDG一共有17个目标，下面有169个具体的指标。人工智能能够为它来做什么？大家知道，去年联合国召开一次会议看看时间过半，SDG执行情况如何？情况不容乐观，有很多目标不但没有能够实现，而且还倒退。所以大家对人工智能赋予了很高期望。

最近也有研究人工智能对SDG发展带来影响做出了一些分析。其中一个分析，17个目标分成三个大领域：经济发展、社会发展和环境可持续发展。总体来讲，人工智能会对169个指标里面134个带来积极促进作用，当然也有可能对其中59个/35%左右产生不利影响。左图可以看到积极正面影响，右边带来不利影响。从宏观角度看到，人工智能潜在积极影响和不利方面。

目前，人工智能可能带来一些风险。第一，技术内在问题，包括所谓幻觉，另外自主人工智能系统长远来讲，受到自主发展可能，对人类社会的威胁；第二，基于技术开发带来风险，包括数据安全问题、算法歧视、能源环境等等问题；第三，技术应用，包括误用或者滥用，长远对社会就业带来影响。这些问题都是不可忽视的。

如何推动人工智能健康发展，尽可能地让它收益最大化？同时把风险降到最低？中国在过去这些年的实践当中已经建立了相对比较完整的体系，首先在底层产业应用方面有一系列法律法规去推动人工智能的合理发展。另外，针对算法、算力、数据有一系列治理规则。同时，针对它的风险也有很多基本规则。2019年发布《人工智能治理准则》，包括《伦理准则》，这个作为底层。另外，针对相关很多问题的法律也出台，针对专项及具体场景应用都出台相应治理规则。构建了多维度、多层次、多领域、多举措的整体治理体系。

同时，特别强调人工智能发展和风险防控，要让广大社会能够对人工智能有更好的了解，所以这点也有很多研究显示确实公众在这方面，中国社会对人工智能发展积极、拥抱，但同时也对人工智能认识有不足的地方。所以，今年2月份四部门《2024年提升全面数字素养与技能工作要点》，部署这方面任务。

刚才讲到中国这方面的实践，从全球角度来讲，要看到人工智能发展面临着很多挑战。

刚才李强总理特别谈到存在巨大的问题，首先是基础设施鸿沟，25亿人属于脱线状态，同时全世界存在公民素质数字素养鸿沟，另外是人工智能发展和素养的鸿沟。这些是要全球共同努力发展，不但阻碍全球发展，也对全球治理带来很大影响，而且在今天国际社会里面，一个国家带来的风险就是全球的风险，所以这些问题必须得共同努力解决。

解决这方面问题，首先要把发展和安全作为“一体两翼”，国际社会对安全问题可以说是非常重视，要去推动其解决。另外一点，对于发展目前存在的鸿沟，AI鸿沟、数智鸿沟方面关注不够。所以，最近中国在全球发布了这方面的规则。所以，在这方面应该说有很多的工作可以进一步讨论。

首先，通过多途径建立国际交流及防控体系，加强政府间的多边对话机制，同时希望能够通过科学共同体力量助力国际机制全面完善。刚才特别高兴看到他们的主席来讨论，全球科技力量可以跟政府、跟企业共同推动人工智能的健康发展。

我们也希望联合国等国际组织能够真正起到综合全面协调的作用，去年通过安全协议，今年刚刚通过加强人工智能能力建设国际合作决议，打破各种壁垒，加强国际合作协议，同时在产业、科学界共同努力下推动人工智能合理发展。

最后，希望大家共同努力推动人工智能健康发展，为人类和平与发展作出更大的贡献，谢谢大家！

专题统筹：秦前松