ARTICLE · 1017976
AI治理3.0来了!专门管控现实世界AI风险
AI治理3.0来了!专门管控现实世界AI风险9月14日，《人工智能安全治理框架3.0》正式发布。三年三度迭代、一年一更新的节奏，体现出我国人工智能治理小步快跑、动态适配的鲜明特点，也标志着国内AI治理正式迈入应对智能体风险的新阶段。
相较于前两个版本，3.0版本实现了治理重心的关键升级。1.0版本聚焦模型内生与应用安全风险，2.0版本延伸至就业、伦理等衍生风险。而随着大模型技术快速迭代，AI从被动问答升级为智能体主动执行任务，能力实现跨越式提升，虚拟空间的AI行为可直接传导、影响现实物理世界，催生全新安全隐患。为此，3.0版本首次将智能体、具身智能风险单独列明，精准补齐新时代治理短板。 
该框架为行业指导性规范，而非强制性法规，是企业合规发展、监管开展工作的重要参考标尺。企业主动对标落实规范，既能规避安全风险，也能提升市场公信力，收获用户信任。同时框架创新提出动态平衡治理思路，摒弃一刀切管控模式，根据AI创新场景的风险高低，灵活调整安全管控等级。
此外，3.0版本重点强化开源生态、AI供应链安全管理，明确相关禁止性行为、划定行业红线。治理并非限制创新，而是通过筑牢安全底线，杜绝失控式、破坏性技术发展，为良性AI创新保驾护航。 
在国际层面，这份框架传递出中国治理立场：坚持以人为本、安全与发展并重，AI治理标准对内对外一视同仁，驳斥了所谓“中国AI发展威胁他国安全”的片面论调。同时倡导各国互信互鉴、共治共享，以国际合作共同应对人工智能全球性安全难题，助力行业健康、可持续发展。
相较于前两个版本，3.0版本实现了治理重心的关键升级。1.0版本聚焦模型内生与应用安全风险，2.0版本延伸至就业、伦理等衍生风险。而随着大模型技术快速迭代，AI从被动问答升级为智能体主动执行任务，能力实现跨越式提升，虚拟空间的AI行为可直接传导、影响现实物理世界，催生全新安全隐患。为此，3.0版本首次将智能体、具身智能风险单独列明，精准补齐新时代治理短板。
此外，3.0版本重点强化开源生态、AI供应链安全管理，明确相关禁止性行为、划定行业红线。治理并非限制创新，而是通过筑牢安全底线，杜绝失控式、破坏性技术发展，为良性AI创新保驾护航。
在国际层面，这份框架传递出中国治理立场：坚持以人为本、安全与发展并重，AI治理标准对内对外一视同仁，驳斥了所谓“中国AI发展威胁他国安全”的片面论调。同时倡导各国互信互鉴、共治共享，以国际合作共同应对人工智能全球性安全难题，助力行业健康、可持续发展。