曾琼:AI治理要为发展清障、铺路、赋能

今年《政府工作报告》明确提出“打造智能经济新形态”，将其列为今年国家经济建设的一项重要任务，标志着智能经济发展已正式上升为国家经济社会发展的重大战略。

发展智能经济，既是“十四五”数字经济发展战略的延续，也是数字经济发展战略的升级。为使智能经济成为我国经济社会发展的新引擎、新动能，实现2035年我国全面步入智能经济和智能社会发展新阶段的总体目标，加快培育智能经济新形态意义重大、时不我待。

完善人工智能治理与培育智能经济新形态，是一体两面、相辅相成的。从学理来看，治理不仅是“限制”，更是促进；不仅是设置“防火墙”，更要为发展清障、铺路、赋能。促进与赋能，应成为治理的重要功能。因此，在治理结构设计上，既要注重限制型治理结构建设，也要注重驱动型治理结构完善；在治理制度安排上，既要注重规约性制度构建，也要注重激励性制度设计。

人工智能治理必须坚持发展与安全并重、治理与促进并举、治理与发展同步。科学的制度设计，必然是限制与激励、控制与引领的有机统一。今年《政府工作报告》提出的“促进开源生态繁荣”“实施超大规模智算集群、算电协同等新基建工程”“加快发展卫星互联网”等打造智能经济新形态的举措，既是为破解“闭源”壁垒、算力分散、“数据孤岛”等难题清除障碍，也是对智能经济发展的激励性政策引领。同时，科学的治理机制在人工智能发展中的重要能动作用不可忽视。人工智能治理中的多元协同共治机制，能够凝聚智能经济发展合力；消费者人工智能素养的培育，旨在夯实智能经济发展的底层基础；“包容审慎”的容错机制，本质上就是激励创新的动力机制。

风险防范与监管是治理的核心任务，关键在于以社会治理为主导的传统治理模式，能否适配人工智能这一新技术形态。新的技术经济范式，必然呼唤新的治理范式。

人工智能技术已不再是简单的技术工具，而是具有自主学习、自主行动能力的“类主体”系统性存在。与其他技术不同，人工智能本身存在巨大的内在风险。例如，在机器学习过程中，因数据偏差可能导致技术与社会价值脱节的风险，因技术失灵可能产生与客观事实不符甚至虚假信息的风险。应对这些风险，必须依托技术手段提供支撑。

防范治理人工智能技术内生性安全风险，需要相关技术的开发与应用提供保障。在安全风险社会治理方面，我国已积累了较为丰富的经验。当前的重要任务是对安全风险社会治理相关的法律法规、政策制度、应用规范、伦理准则进行系统整合和进一步完善。有两点值得特别重视：一是伦理准则问题，二是安全风险责任主体问题。传统治理准则建立在“勿为恶”的基础上，留下了非善非恶的巨大灰色空间，而“AI偏见”等现象进一步模糊了伦理边界。我们应确立“智能向善”的新伦理准则，明确伦理边界，推动人工智能更好造福人类。由于人工智能的“类主体性”容易造成责任主体认定模糊，必须坚持以“人”为责任主体的归责机制与问责制度，这一原则不可动摇。

完善人工智能治理，是加快培育智能经济新形态、促进人工智能健康有序发展的重要保障。我们要在智能技术与智能经济的动态演进中，持续完善人工智能治理，在统筹发展与安全中，稳步迈向智能经济发展的美好未来。