2024年7月6日上午，以“人形机器人的法治与伦理”为主题的2024世界人工智能大会法治论坛在上海世博中心蓝厅成功举办。论坛由世界人工智能大会组委会办公室指导、上海市法学会主办。复旦大学、上海交通大学、浙江大学、南京大学、中国科技大学、浙江清华长三角研究院、华东政法大学、上海政法学院、西南政法大学、腾讯公司、京东集团等著名院校和先进机构协办。
上海市法学会会长姜平主持论坛开幕式，最高人民法院副院长茅仲华、最高人民检察院检察委员会副部级专职委员苗生明、中国法学会副会长甘藏春先后致辞。巴西联邦最高法院院长路易斯·罗伯特·巴索罗（Luís Roberto Barroso）出席论坛。上海市高级人民法院院长贾宇，上海市人民检察院检察长陈勇等领导出席论坛。
上海市法学会会长 姜平
姜平指出，世界人工智能大会法治论坛自2018年开办以来，已成功举办六届，坚持以习近平法治思想为指引，深入贯彻落实习近平总书记有关考察上海的重要讲话精神，积极投入国家人工智能战略实施与上海人工智能高地建设的重大任务，参与制度供给研究，服务人工智能科技创新与产业发展，推动人工智能法治研究的全球对话与交流，为人工智能全球治理规则的创设贡献上海方案，为新质生产力发展提供法治保障。在本次 2024世界人工智能大会暨人工智能全球治理高级别会议开幕式上，李强总理和与会嘉宾一起重温了2018年首届大会召开时习近平主席发来的贺信，并提出了“深化创新合作，释放智能红利”“推动普惠发展，弥合智能鸿沟”“加强协同共治，确保智能向善”三点建议。本次论坛以“人形机器人的法治与伦理”为主题，就是落实《人工智能全球治理上海宣言》精神，坚持“以人为本、智能向善”的一次积极行动。
最高人民法院副院长 茅仲华
茅仲华指出，人民法院主动作为下好“先手棋”，设立互联网法院、互联网法庭，推进数字法院建设，妥善审理涉互联网前沿案件，培育数据权益保护典型案例，积极应对人形机器人在研发、训练、应用过程中的法律适用问题。今后将不断推动完善新技术应用的法律治理框架，为数字中国建设提供有力法治支撑。
最高人民检察院检察委员会副部级专职委员 苗生明
苗生明指出，要重点加强对人工智能等新业态新领域知识产权司法保护，维护创新主体合法权益，服务未来产业健康发展。开展“检察护企”，依法惩治侵犯关键核心技术犯罪，加强科技创新综合保护，继续加强案例指导，统筹指导提升办案质效。充分运用法治力量服务数字经济建设，推动新质生产力加快发展。
中国法学会副会长 甘藏春
甘藏春指出，人形机器人发展当中遇到的法律问题、伦理问题，本质上仍然是数字时代法律变革遇到的问题。必须把握数字时代法律变革的总体趋势，努力找寻智能向善的伦理原则与法律结合的合理区间，推进人权、公权力、技术权利三维模式的新法治模式，综合运用法治的各项实施机制，对冲法律与数字技术发展之间的时差，促进数字法治的国际合作。
主题演讲
6位法学法律界及人工智能相关领域的资深专家，围绕人工智能发展的制度特区、人形机器人未来产业的开源创新、数学与人类文明的演进、人形机器人的法治与伦理、人工智能生成物的知识产权属性等话题发表精彩演讲。
中国政法大学副校长、教授 时建中
中国政法大学副校长时建中教授以《加快构建推动人工智能发展的制度特区》为题发表主题演讲。他提出，在推动人工智能领域向强发展时，数据、算法与算力等三个要素不可或缺，并分别涉及产业政策与监管法制的问题；在全球地缘政治与科技进步的背景下，促进与规范人工智能并重发展才是正确的选择，应坚持通过“促进”让人工智能向上发展，通过“规范”让人工智能向善发展。据此，一个合理的人工智能发展的特区制度应确保实训练数据的易获取性、促使公共数据的有效利用、保护知识产权的合理使用、鼓励算力算法的充分合作、坚持预训练内容的差异化监管、实现人工智能责任的合理分配，即应采取分类思维，根据不同阶段采取不同制度，这不仅是对技术的合理态度，也是对未来负责任的体现。
南京大学教授、江苏国家应用数学中心主任 秦厚荣
南京大学教授、江苏国家应用数学中心主任秦厚荣以《数学与人类文明的演进》为题，提出当前社会正面临第四次工业革命，即正步入智能时代，由近及远观察，数学在四次工业革命中的角色有所不同，其正从技术走向前台，通过发挥自身的基础性与关键性作用以积极地影响人类文明；数学与数学家逐步走到工业革命第一线可谓其来有自，因为技术迭代、科学创新均依赖原理的发现及其价值的实现，这就需要数学等基础学科提供支持，从基本原理出发推导出其他规律；在法学与数学的关系与互动方面，法学与数学的脉络形成与逻辑运行具有相通性，即通过法律原理或数学公理逐步演绎或推导，形成更广泛的智识与应用体系，智慧法治在数学的加持下可谓未来可期。
华东师范大学上海人工智能金融学院院长、教授 邵怡蕾
华东师范大学上海人工智能金融学院院长邵怡蕾教授以《从科幻到现实：人形机器人带来的法律与伦理思考》为题，指出AI智能体对人存在的所对应的诞生性与有死性、世界性、复数性与地球等基本条件提出挑战，“机器是否能思考”的回答正变得越发肯定。据此，需要关注机器人的法律主体性，明确机器人造成损害时设计者、制造者、所有者与使用者的责任划分，完善机器人收集与处理数据的法律规定，强调人形机器人设计与使用中的尊重、无伤害、公正等基本伦理原则，审慎对待人形机器人是否应被视为人类的同伴以及人类对机器人产生情感依赖等伦理问题，充分考虑机器人对就业市场的影响并避免机器人与人类互动中可能产生的性别、种族偏见等，构建更适配的制度环境。
同济大学中欧创新政策与法律研究中心副主任、上海国际知识产权学院研究员 皮特•加尼亚（Peter GANEA）
同济大学中欧创新政策与法律研究中心副主任、上海国际知识产权学院研究员皮特•加尼亚（Peter GANEA）以《关于人工智能生成发明和创造中的知识产权争议——对机器行业的影响》为题，提出当软件与更复杂的技术解决方案相结合时，机器人领域中大多数与软件相关的发明便符合“技术性”原则，使得绝大部分机器人相关的创新成果有条件受知识产权规范的保护。机器人在知识产权领域的侵权风险主要存在于艺术作品领域：一般而言，人工智能仅能生成数字图像，与真实绘画有本质区别；相比之下，人工智能驱动的机器人因其具身化而可以“用手”像人类画家一样使用画笔，可以创作更接近原始画作的作品。此外，机器人虽无法为人工智能生成的文学或音乐作品增添任何质量，却因其在物理世界中执行任务的能力，使得其在美术领域可能比人工智能本身更具优势。
联合国人工智能高级别咨询机构成员、中国政法大学数据法治研究院教授 张凌寒
联合国人工智能高级别咨询机构成员、中国政法大学数据法治研究院教授张凌寒以《人形机器人的伦理挑战及应对》为题，指出人形机器人的本质是AIGC与物理形态的结合，“有趣的灵魂”加上“好看的皮囊”让人形机器人从科幻作品成为生活中触手可及的技术产品：首先，人形机器人需要全方位收集个人信息与环境数据，隐私保护问题更加迫在眉睫，本地与云端合作调用能力数据处理机制也使得个人信息保护制度受到挑战；其次，人形形态与AIGC的结合容易造成拟人交互的沉迷风险；最后，AIGC的新型人机交互模式，使得人工智能知识高于人类，极易造成依赖形成操作的伦理风险。对此回应，应坚持科技发展以人为本，始终在法律制度设计中坚持人类的主体地位，其次，必须形成全球治理合作机制对人工智能的风险予以积极回应。
国家地方共建人形机器人创新中心首席科学家 江磊
国家地方共建人形机器人创新中心首席科学家江磊以《开源创新助力人形机器人未来产业》为题，提出开源创新作为一种开放共享的创新模式，其核心在于知识的自由流通与协作创造。在人形机器人领域，开源不仅可以加速技术的发展与应用，还可以促进伦理标准的形成与普及：首先，开源可以集结全球的智慧与资源，通过社区的力量快速迭代并优化机器人的设计与功能；其次，伦理原则与标准在开源模式下可以被更广泛地讨论与接受并形成行业共识，从而为人形机器人的健康发展提供指导。当然，开源创新也面临技术泄露、知识产权保护以及开源社区的管理与协调等问题，这些问题需要得到妥善解决，我们应在积极拥抱开源的同时，建立完善的机制以确保技术进步与伦理责任并行不悖。
产业对话
5位业界翘楚围绕人形机器人的发展现状与未来方向、人形机器人的技术发展及其治理、人工智能的法治保障、具身化对大模型与自动驾驶的影响、人形机器人在设计与商用时的法律挑战等话题展开精彩对话。
上海市人工智能行业协会秘书长 钟俊浩
上海市人工智能行业协会秘书长钟俊浩在回应人形机器人的发展现状与未来方向时提出，机器人的设计与商用可追溯至近年来对大模型的应用与推进，生成式、具身化的特征是科技创新进一步赋能的结果，机器人属于软件与硬件相结合的典型产物，或许也是“软硬结合”的最好载体与呈现之一；我国在人工智能产业虽存在一定程度的代际差，可凭借工业制造链完整度方面的比较优势，在机器人零部件端、产品品类方面极具竞争力，人工智能+人形机器人的技术与产业融合有利于我国在“软硬结合”的机器人领域脱颖而出；在面对成熟的生产流水线时，设计并发展人形机器人逐步代替之的考量可能包括通过人形机器人的具身特征与优势缩减生产环节，在特定制造场景中发挥更大作用等。
京东集团副总裁、法律合规与知识产权部负责人 胡焕刚
京东集团副总裁、法律合规与知识产权部负责人胡焕刚在回应人形机器人的技术发展及其治理时提出，人形机器人与各学科是互相推动、协同发展的关系，某个学科领域的创新与突破就会带来人型机器人的突破与发展，人型机器人的提升与运用又反过来推动这个学科领域新问题、新需求的发现，从而带动技术的继续创新与突破；同时，需要明确人形机器人引发的问题应在以人类为中心的伦理与制度框架中解决，法律应以“谁有能力控制风险，谁就应当控制风险”为原则合理分配生产者、销售者与使用者的权利义务与法律责任；在具体管控措施方面，可以考虑强制使用数据加密技术、机器人编号与购买登记制度、使用者教育制度、机器人伦理检测机制以及由专门机构负责人形机器人综合监管执法等，多管齐下，防范人形机器人可能带来的风险。
腾讯公司法务副总裁 李佳
腾讯公司法务副总裁李佳在回应人工智能的法治保障时提出价值对齐是现在理论界与实务界均非常热门的一个话题，在一定程度上也得到大家的认可，也就是如何让大模型的能力与行为跟人类的价值、真实意图与伦理原则相一致。除越来越有深度与广度的思辨与理论构建，产业界也在积极实践，使得人工智能价值对齐有更具象、更务实的探索；当前人工智能“价值对齐”的需求越发迫切，需要产业界、法律界协同开展更多更广泛的实践工作，不断给出更优的解决方案，逐步构建起人工智能、机器人的安全信任基石；技术人员在技术层面讨论价值对齐更多的是着眼于如何规模化地实现价值对齐的目标，而法律界则更多地回应所对齐的价值究竟如何界定，这也是一个非常复杂与困难的问题。机器训练过程中规则的制定离不开法律，其中很一大部分属于法律规则与平台协议，有很强的法律属性，如何从实体与程序角度制定规则实现对齐目标是法律界不得不思考并回答的问题。
百度公司副总裁 吴梦漪
百度公司副总裁吴梦漪在回应具身化对大模型与自动驾驶的影响时提出，“有身体”的大模型与“没身体”的大模型均属于新质生产力，大模型通用算法的创新保护、预训练数据的合理使用是两者的共同问题，而具身智能、机器人是人工智能赋能的一个方向，在落地场景中会有自己的独特问题，很多规范是通过后验的法律实践活动逐渐形成并被表达出来，因而早期的包容审慎监管十分重要；在自动驾驶领域，需要关注技术治理多元价值取向之间的平衡，注重技术治理规范中的技术语言与法律语言表达，把握治理介入的节点、节奏与维度；此外，还需要建设大模型训练数据库，创新数据自动化标注、清洗、使用等方法，扩充高质量的多模态数据。在人工智能的治理层面，她建议倡导“良法善治”以及在整个生态治理规则方面的创新。
美国科律律师事务所合伙人 亚当•鲁登博格（Adam Ruttenberg）
美国科律律师事务所合伙人亚当•鲁登博格（Adam Ruttenberg）在回应人形机器人在设计与商用时的法律挑战时提出，机器人自动化程度越高，对其行为分配法律责任越难，加之人形机器人可以对现实世界产生物理影响，其难免对人身或财产伤害等可能产生额外的潜在风险或责任，就像生成式人工智能一样，随着机器人能力的提高，机器人充分发挥其潜力时必然会改变现有法律；值得注意的是，虽然人工智能法规大多不是人形机器人独有的，但人形机器人的外形尺寸不同将使得如何使用每个基础模型存在复杂性，这是因为其不同外形尺寸收集的可用数据将更多样化，因而在一段时间内，我们可能无法明确此类模型的训练、创建与使用，规划监管的可能结果或许是规划未来立法的唯一途径。
成果发布
论坛发布了《人形机器人治理导则》《世界人工智能法治蓝皮书（2024）》与“数据流通合规云平台”等研究成果。
上海市人工智能伦理与治理专家委员会副主任委员、上海市法学会专职副会长 施伟东
上海市人工智能伦理与治理专家委员会副主任委员、上海市法学会专职副会长施伟东发布《人形机器人治理导则》，强调人形机器人智能化设计与应用必须符合人类的能力，不得威胁人类安全，并切实保障人类的尊严与安全；需要优化人形机器人治理以助力创新发展，积极推动科技与人类社会的共同发展，以法治捍卫人类的福祉，让包括人形机器人在内的科技发展，真正助推人类命运共同体的构建，有效防止科技滥用；需要高度关注人形机器人产业的风险管理，通过建立风险评估与监测机制，及时发现并化解潜在风险，确保人形机器人的安全使用。
《世界人工智能法治蓝皮书（2024）》主编 崔亚东
《世界人工智能法治蓝皮书（2024）》主编崔亚东发布最新蓝皮书时指出，我们始终坚持以习近平法治思想为指引，立足中国、面向世界，旨在通过系统梳理分析我国与世界人工智能发展的法治动态，发布客观、公正、准确的评估报告，繁荣人工智能法学理论研究，推动人工智能法治建设，并在引领规范、促进保障人工智能安全、可靠、可控、健康发展方面发挥积极作用。他还指出，本年度蓝皮书进一步丰富人工智能发展指数与社会公众案例分析相关的内容，着力拓宽国际化视野，对更多国家与地区的法律动态进行系统分析，并积极关注国际人工智能治理的发展趋势与国外人工智能司法案例的价值取向，为我国更好地参与相关国际治理提供实证素材与智库力量。
发布“数据流通合规云平台”
同方知网数字出版技术股份有限公司副总经理肖宏、上海数据交易所副总经理章健、上海市法学会秘书长夏咸军发布“数据流通合规云平台”，该平台从数据供方的合规性、数据来源的合规性、数据的可交易性、交易行为的合规性以及数据跨境的合规性等维度，采用知识元智能加工标引等技术对相关知识进行碎片化重组，不仅可以为出具数据合规评估调查清单、数据挂牌交易合规性评估意见报告等文件制定提供指引，还可以为具体开展数据评估工作提供参考依据查询、权威专业解读与证明材料推送等知识服务，在上海数据交易所注册认证的合作数商可以向上海数据交易所申请30天免费使用权益，通过授权即可成为中国知网法律知识服务的用户。
对外经济贸易大学法学院教授张欣、北京大学法学院助理教授王华伟担任论坛主题演讲、产业对话与成果发布环节的主持人。
对外经济贸易大学法学院教授 张欣（左）
北京大学法学院助理教授 王华伟（右）
各界代表300余名嘉宾现场参会，线上直播参与人数超32万名。
专题统筹 ：秦前松
