当AI从“对话”转向“行动”:这份治理倡议,要守住什么底线?

编者按

人工智能作为引领新一轮科技革命和产业变革的战略性技术，正深刻重塑世界经济格局、社会治理模式与人类生活方式。我国此前发布《全球人工智能治理倡议》，倡导以人为本、智能向善，推动构建开放、公正、包容、有效的全球人工智能治理体系。

近日，在中国科协组织下，中国人工智能学会等16家单位共同起草《全球人工智能治理科技社团倡议》，围绕确保人工智能安全有益、赋能民生发展、严守安全底线、防范技术风险等方面发出倡议。

值此契机，中国科协之声对话人工智能领域专家，共同探讨人工智能治理为何刻不容缓、中国方案有何亮点、科技社团应如何发挥作用。

专家简介

梁正，中国科学学与科技政策研究会副秘书长，长期从事人工智能治理领域研究，参与国家中长期科技发展规划战略研究等国家级重大咨询课题。

孙富春，中国人工智能学会副理事长，长期从事具身智能与机器人灵巧操作领域的研究。

崔勇，中国通信学会智能体通信专业委员会主任委员，曾担任国际互联网标准化组织IETF工作组主席，主要研究领域包括互联网体系结构、下一代互联网和网络安全等。

治理为何刻不容缓：

从“对话”到“行动”的风险跃迁

中国科协之声：当前，无论是联合国、各国政府还是科技社团，都在密集推动AI治理。这一轮治理紧迫性的技术根源是什么？

孙富春：最根本的变化是，人工智能已经从过去的交互理解、问答系统，进入到了行动阶段。这意味着AI从表征走向行为、从开环进入闭环。随着机器人传感技术、认知决策与行为技术的不断发展，具身智能在机器人上的应用日益广泛。机器能通过理解人类意图自主生成任务、执行行为，这就引发了诸多伦理问题。比如，过去由人类完成的炒股、购物等行为，现在机器可以自主完成，甚至可能被用于犯罪。这就引申出一个核心问题：机器犯错，该惩罚谁？对此，有三种主要思潮——将机器视为人造物体，责任在人类；将机器比作宠物，责任在其“监护人”；若机器达到高度自主、拥有类人智慧，则需直接对其进行惩罚。这些不是遥远未来的假设，而是正在逼近的现实。

崔勇：从计算机网络的视角来看。过去，大模型多是基于文本或多媒体的问答交互，对生产生活未必能产生直接影响；但现在，它已能直接加速各行各业的效率提升，这是非常突出的优势。但是，如果存在安全隐患，这种加速的负面影响也会被大幅放大。我个人研究计算机网络，更关注多智能体互联互通时的问题——比如数据自保护、数据不出境、数据隐私等。这些方面都需要进一步加强监管或规范流程，这是十分必要的。以智能体通信为例，不同智能体之间如果缺乏安全网关，恶意指令可能直接删除用户文件，这并非危言耸听。

梁正：我注意到一个时间节点：从去年下半年开始，人工智能治理问题已经到了“不解决不行”的地步。在科研领域，AI用于科学研究带来了大量科研诚信问题；在教育领域，学生使用AI难以鉴别、相关规范缺失；在社会层面，公众对人工智能的认知要么过度夸大替代作用，要么认为它离生活很遥远。今年两会已经明确，正式启动人工智能立法工作。需要强调的是，治理不是要踩刹车，而是要给高速行驶的车装上可靠的导航和护栏。科技社团作为独立、专业、理性的主体，最适合承担提供这一公共产品的责任。

困境何在：

技术迭代、地缘政治与认知偏差的三重落差

中国科协之声：既然紧迫性如此明确，为什么全球AI治理仍然举步维艰？

梁正：核心困境有三层。第一，治理跟不上技术发展速度。人工智能技术迭代太快，治理规则难以快速适配。去年看似遥远的问题，今年已经非常现实。第二，地缘政治格局复杂。部分领先国家采取“以邻为壑”“拉小圈子”的方式，不愿分享前沿技术。同时，南方国家担心被边缘化，很多国家甚至没有能力参与讨论。第三，社会认知与技术实际存在偏差。公众要么过度夸大，要么过于疏离。这三个落差——技术发展与治理的落差、各国能力与发展的落差、社会认知与实际的落差——是全球人工智能治理难以形成共识的根本原因。

崔勇：我长期参与IETF国际标准制定。国际互联网标准组织IETF已经举办了120多次会议，但只来过中国两次。在最近的深圳会议上，国际社会对智能体通信、智能体互联互通的关注度极高，大家都在探讨如何快速制定既安全又高效的协议。但问题是，技术先进是掌握话语权的关键。目前，我国论文发表量世界第一，高水平论文也领先，但在国际标准制定方面与世界顶尖水平还有较大差距。这说明我们是互联网大国，还不是顶尖的互联网强国。此外，签证等问题也影响我们参与国际组织——IETF每年在北美举办一次会议，这些现实阻碍不容忽视。

孙富春：除了制度和标准层面的困境，还有技术本身的风险根源。AI的偏好问题、幻觉问题、造假问题，都需要从技术层面破解。比如，谷歌曾将美国黑人标注为黑猩猩，这就是训练数据中的潜意识偏见；此外，目前大模型的幻觉率还比较高。这些技术问题不解决，治理就会变成“空中楼阁”。但我想强调的是，治理困境的深层原因，其实与人的思考方式有关。我们当前最大的问题就是浮躁、缺少深度思考。在AI时代，要保持深度思考，就要不随波逐流，不执着于名利，一辈子坚持一件事深耕下去，才能实现突破。

中国方案：

不另起炉灶，贡献最大公约数

中国科协之声：在这样的全球困局中，中国科技社团发布的《全球人工智能治理科技社团倡议》想要传递怎样的信号？

梁正：首先，我们要明确一个态度，不另起炉灶，而是加强联合国的作用。倡议中明确提出推进在联合国框架下成立国际人工智能治理机构。联合国在核武器、核军控等领域已有成熟经验，可以借鉴。中国倡议的亮点在于：一是“以人为本、智能向善”，把“确保有益”和“赋能民生”放在最重要位置；二是“发展与安全并重”，不认为二者对立；三是“交流互鉴、开放包容”，反对排他性小圈子。这背后是中国式的价值理念——集体主义、长期主义与和谐共生。例如，我们强调个人权利可以在集体利益需要时适当让步，这与欧洲过度强调个人权利有所不同。

崔勇：我特别赞同“开放包容”这个方向。国际互联网标准组织IETF有一句名言：“我们拒绝国王、总统与投票。我们信奉大致共识与可运行代码。”当年互联网先驱们设计的诸多创新都没有申请知识产权，而是以开发、开源形式贡献给全世界，这正是互联网能快速发展的关键。我认为，在AI和智能体时代，我们或许也应该借鉴这种模式，推动全人类共同发展。全球性风险不是单一国家能应对的，必须各国协同发力。此外，在技术层面，我们正在研发“智能体网关”，通过国家或国际认证的网关对所有智能体交互进行监测和过滤，这既是中国技术创新的体现，也是治理落地的重要抓手。

孙富春：我想从中国古代哲学的角度谈谈中国方案的独特性。中国古代很早就有对“智能”的研究，最具代表性的是荀子。荀子在《正名》篇中说：“知在人者，谓之知；知有所合，谓之智”——人天生具有认知能力，当这种能力与世间万物交互时，就会产生智慧；“能在人者，谓之能；能有所合，谓之才”——人还有求变、创新的能力，当这种能力与自身专业方向结合，就会形成才能。荀子还提到“凡以知，人之性也；可以知，物之理也”，强调好奇心是人的本性。这些思想对我们今天研究AI、治理AI具有重要的指导意义。我认为，中国方案的优势不仅在于制度设计，更在于我们有一种“天人合一”“和谐共生”的哲学底色。用中国古代哲学指导人工智能发展，这是一个值得深挖的方向。比如，脑启发的研究——看到鸟飞启发我们发明飞机——就是这种哲学思想在技术上的体现。

从理念到落地：

技术、制度与人的协同

中国科协之声：倡议很美好，但如何避免沦为纸面宣言？最关键的落地保障是什么？

梁正：我认为有三点。第一，科技社团持续发挥倡导和教育作用，让“智能向善”“开放包容”等理念深入人心。第二，结合国家层面的实际工作，比如在数字“一带一路”中落实普惠原则，为发展中国家提供能力建设——我所在的清华大学人工智能国际治理研究院就与联合国开发计划署联合举办了青年创造营等相关活动，为发展中国家学生授课。第三，推动行业和企业参与，让倡议要求落到具体实践中。比如清华大学正在打造人工智能医院，由多智能体构成垂直医疗领域的专业模型，可以在很大程度上赋能基层医疗与公共卫生服务，目前已计划在基层医院试点。此外，“监管沙盒”是一个重要工具——例如北京亦庄的自动驾驶示范区就是物理沙盒，在可控范围内试验、完善规则，再逐步推广。

崔勇：从技术层面，智能体网关是一个重要的解决方案。现在不同智能体之间的交互是直接的，难以监控和防范安全隐患。如果所有智能体的交互都通过国家或国际认证的网关进行，网关就能全面监测所有交互行为，防范隐私泄露等问题。比如工资账单，在人事部门内部流转无需特殊处理，但流转到其他部门时，就可以通过网关进行脱敏处理。这项技术虽然还在研发阶段，但它代表了技术治理的一个可行方向。此外，我们需要引导科研人员将发表论文的动力，转向将研究成果转化为国际标准。同时，加强专业人才队伍建设——不仅要培养学生的代码能力、算法能力，还要提升他们在国际规则制定、话语权表达方面的综合能力。

孙富春：我特别想强调一个容易被忽视的维度——人的回归与深度思考。AI时代看似是技术发展，实则是人的智慧、人文素养和深度思考能力的竞争。人类的创造性，源于大脑多个区域的协同作用，而文科培养的跳跃式思维正是激发创造性的关键。我们现在研究AI时，会重点关注“脑启发”方向。人文素养带来的想象力和深度思考，正是推动AI向更高阶发展的重要支撑。在教学中，我会引导学生多总结、多规划、多预测，培养想象力和规划能力。同时，我也会鼓励学生一辈子深耕一个领域，不浮躁、不追求表面名利。只有这样，我们才能在AI时代真正保持人的主体性，而不是被技术异化。

中国科协之声：科技社团在全球AI治理中应该扮演怎样的角色？

梁正：科技社团要做那个连接各方、凝聚共识、基于证据发声的桥梁，既不取代政府，也不屈从商业。同时，科技社团要持续发挥倡导和教育作用，让“智能向善”“开放包容”等理念深入人心——这是治理落地的价值基础。

崔勇：科技社团要推动技术标准与治理规则协同演进，让“可运行的代码”成为全球互信的基石。此外，科技社团应积极搭建高水平国际交流平台，深度参与国际标准规则制定，在智能体通信等前沿领域推动安全高效的互联互通协议，从而提升我国在国际治理中的话语权。

孙富春：科技社团要守护人类在认知与创新方面的优势，让AI真正服务于人的全面发展——这或许是中国古代哲学给世界最大的启示。同时，科技社团可以借助“独立第三方”的灵活优势，推动民间层面的国际合作，凝聚各国在人工智能伦理与安全上的最大公约数。