人工智能治理研究院一周年院庆学术研讨会主旨报告简介

（一）稳步推进人工智能立法，促进产业发展和防范技术风险

随着人工智能技术的飞速发展，人工智能立法已成为全球各国共同关注的重要议题。现阶段我国尚未出台人工智能专项法律，但依托《网络安全法》及多部算法、生成式人工智能相关部门规章、司法司法解释，已搭建起分层规制框架；欧盟、韩、日、越等国相继落地专门立法，形成具有一定差异化的制度样本，具备重要参考价值。我国人工智能立法应当解决两个方面的核心问题：一是促进产业发展，重点考虑加强人工智能关键要素的公共供给、协调训练数据民事权益保护与产业发展的关系，以及对智能经济新业态实行包容审慎监管等制度安排。二是防范技术风险，重点考虑做好与现行法律体系中风险防范制度的衔接、重点针对高风险人工智能设置监管要求，以及结合我国国情合理配置监管资源等制度安排。我们应当对人工智能立法涉及的核心问题进行深入研究，从而为立法提供充分的知识储备与坚实的理论支撑。

张新宝

中国人民大学吴玉章高级讲席教授、博士生导师，中国法学会网络信息法学研究会副会长、学术委员会主任，教育部长江学者特聘教授。在民法学和数字法学领域的法学研究和法学教育领域享有崇高的学术声誉，研究方向包括民法总论、侵权责任法、合同法以及数字法学领域的网络法、个人信息保护法、数据法、人工智能法等，在《中国社会科学》《中国法学》《法学研究》等权威期刊上发表论文数百余篇，出版学术专著二十余部，主持过多项国家社科基金重大、司法部重点项目课题。获得第三届全国“十大杰出中青年法学家”，教育部“新世纪优秀人才”，国家“四个一批”领军人才，国家“万人计划”领军人才等荣誉称号，享受国务院特殊贡献津贴。

（二）实践哲学视域下的人机交往伦理

随着对话式人工智能（CAI）日益融入用户的日常生活，其在情感层面的整合引发了紧迫的伦理问题。报告将以2024年一名美国青少年索威尔因长期与AI聊天机器人互动后自杀事件为例，分析人际交往humnan communication与人机交互human interaction各自的特点，指出二者在意图结构和情境嵌入方面的差异：人际交往以相互理解为导向，根植于个人与社会生活之中，而CAI虽模拟了交往信号，却缺乏真正的意图性和情境意识，因而容易引发情绪投射。报告将在此基础上，提出实践哲学视域下的人机交往伦理的规范性重构路径。

王国豫

复旦大学特聘教授，中国科协-复旦大学科技伦理与人类未来研究院院长。兼全国应用伦理研究生专业学位教育指导委员会主任，国家伦理委员会医学伦理分委员会委员，中国医学科学院学部学术咨询委员会委员，上海市人工智能伦理与治理专家委员会委员等。王国豫长期从事科技伦理、包括生命伦理学、人工智能伦理等相关研究。主持国家重点研发计划重点专项“精准医疗的伦理政策法规框架研究”，国家社科重大项目“高科技伦理问题研究”以及“实践哲学视角下的当代生命伦理话语研究”等。她还是《科技伦理研究》主编，出版著作多部，在国内外期刊发表文章100余篇。参与多项国家和行业科技伦理相关规范的起草或修订。与计算机专业同事合作研发的伦理审查智能体“一鉴”在2025年世界人工智能大会上发布并已试运行。

（三）人工智能安全的两个S一从Safety到Security

今年以来，人工智能安全问题引发了全社会更广泛的关注，以Mythos、Openclaw等为代表的每一项重大技术进步，都同步伴随着新型风险挑战和焦虑。报告将从Safety和Security两个S出发，介绍我们对AI安全现状、理论挑践、实践难题的理解，分享AI安全的实践探索与体会。

虎嵩林

中国科学院信息工程研究所研究员，国科大岗位教授，中国科学院特聘核心研究员，国务院政府特殊津贴获得者。主要研究方向为内容安全、人工智能安全等，在ACL/NIPS/ICML/ICLR/EMNLP等发表论文百余篇，作为应用总师承建多个国家级重大工程。牵头获得钱伟长中文信息处理科学技术一等奖、中国网络空间安全学会年度十大优秀成果奖，曾获中国专利奖、中国通信学会科技进步一等奖、北京市科技进步奖等多项科技奖励。

（四）构筑全球人工智能治理体系

本报告结合参与中国人工智能治理贡献于国际共识与实践的经历，分析国际人工智能治理的重要进展与当前面临的问题，指出推进全球人工智能治理体系建设与实施的关键挑战与应对举措。主张全球AI治理需聚焦人工智能发展的科学与客观认知、人工智能全球能力建设、协同风险防范与共护安全、统筹各国发展差异与治理诉求、治理体系互鉴与互操作。应摒弃技术霸权与阵营对抗思维，坚持多边主义与和而不同的治理理念，构筑以人类与生态共同福祉为目标，开放包容、公平普惠、安全可控、可持续、多方共建、行之有效的全球AI治理体系。

曾毅

中国人民大学高瓴人工智能学院吴玉章讲席教授，北京前瞻人工智能安全与治理研究院院长，人工智能安全与超级对齐北京市重点实验室主任。中国人工智能学会（CAAI）心智计算专委会主任；世界互联网大会(WIC)人工智能专委会主任委员。联合国人工智能高层顾问机构专家 (UN Advisory Body on AI)；联合国教科文组织人工智能伦理特设专家组专家(UNESCO Adhoc Expert Group on AI Ethics)。研究领域为人工智能伦理安全与治理、类脑人工智能、人工智能与可持续发展。被《时代周刊(TIME)》评选为首届人工智能最具影响力100人(TIME 100/AI, 2023)。

转载自RUC人工智能治理研究院微信公众号