|人工智能安全治理体系建设展望

当前，人工智能技术正在加速推动各行各业发展，战略机遇和风险挑战并存，面向产业的人工智能安全治理体系建设步入“快车道”。 

（一）短期和中期，人工智能安全治理将朝着多维度、深层次的方向全面进阶，形成覆盖全链条的治理新格局

1.供给层面，内容来源与真实性成为安全焦点 

随着生成式人工智能在文本、图像、音频、视频等领域的规模化应用，人工智能生成虚假新闻、恶意内容批量生产等风险将愈发突出，服务供给方可从技术层面提升水印的不可见、抗篡改、高鲁棒性等特征，通过在人工智能生成内容的底层数据中嵌入唯一标识来实现内容创作者、生成模型、传播路径的全链条追溯。

2.应用层面，技术透明度与可解释性成为治理重点 

随着人工智能技术在医疗、金融、司法、自动驾驶等关键领域的深度应用，其决策结果将直接关系到人的生命健康、财产安全与合法权益，可解释人工智能技术需要从实验室走向规模化应用。同时，服务供给方与应用方需要探索生成更直观的可视化报告，向用户呈现影响决策的关键特征与权重。

3.管理层面，持续探索面向产业的人工智能管理体系

未来，需要持续探索以“计划、执行、检查和处理”（PDCA）模式为核心的管理模式。在计划阶段，结合企业自身业务需求与行业安全标准，制定明确的人工智能安全管理目标与实施方案。在执行阶段，依托智能化工具实现管理措施的落地。在检查阶段，建立常态化的安全审计与评估机制。在处理阶段，形成问题整改与体系优化的闭环。推动管理体系迭代完善的螺旋式上升，最终构建起适配产业发展的安全管理长效机制。

4.产业层面，搭建聚焦行业的安全评估测试体系 

在现有通用标准基础上，可探索由各行业主管部门、龙头企业、科研机构制定细分领域的安全评估标准。依托人工智能安全实验室、行业协会、第三方检测机构，构建具备行业特色的测试环境与工具链。通过搭建聚焦行业的安全评估测试体系，实现人工智能安全治理与行业需求的精准匹配，为人工智能产业的规范化、安全化发展保驾护航。

（二）展望远期未来，人工智能或将超越工具范畴，迈向具有自主适应与策略演化能力的行动主体新阶段 

人工智能技术促进生产力跃升，其引发的深层次人工智能安全风险也需要高度关注。在未来的人机共生阶段，人机关系界定、伦理边界划分、社会规则体系重构等方面也将面临考验。推进人工智能安全治理，必须将其置于构建人类命运共同体的高度来谋划落实。

一是筑牢技术根基，从理论方法、算法模型、系统架构等方面推动“Safety by Design”技术研究。

二是推动制度创新，建立政府部门、企业主体、产业组织、社会公众多元共治的敏捷包容治理体系。 

三是加强全球协作，参与国际交流、增进国际共识、推进国际合作，共同推动人工智能向安全、负责任、可持续的方向发展。 

本文摘编自中国信息通信研究院《人工智能安全治理研究报告——推进人工智能安全治理产业实践框架（2025年）》执笔人：中国信息通信研究院人工智能研究所呼娜英、郭苏敏、徐鹏、石霖

本文摘自《协同构建安全可信的人工智能治理生态》《中国发展观察》2026年第5期（封面图：AI生成）

公众号内容版权归属中国发展观察杂志社，转载务请注明出处及原作者。