AI开始自己做主了?《人工智能安全治理框架3.0》落地,这次管的是的手

AI 从「说错话」到「做错事」，中间只隔了一次授权

安全治理框架3.0 落地：这次管的是 AI 的手，不只是嘴

你有没有想过一个场景：某天早上，你的邮箱自动发出了 200 封邮件，收件人是全公司客户，内容是乱码；你的云盘被清空了三个文件夹，因为「系统觉得它们没用」。

你没点过任何按钮。是那个你授权过的 AI 助理干的。听着像科幻。但《人工智能安全治理框架3.0》要防的，就是这类事。

过去两年聊 AI 出事，指的其实是它胡说八道——编个不存在的法条、把明星写成罪犯、给出一段有毒的食谱。这种风险坏在「信息」层面，看一眼还能发现不对。

今年 9 月，全国网络安全标准化技术委员会发布了《人工智能安全治理框架3.0》。这份文件最要紧的地方，是风险清单里长出了一批新面孔：

治理的对象，从「不要说错话」转向「不要做错事」。

今年正好三件事凑到一块了。

一是 AI 长出了手。过去它只能动嘴，现在还长出了手脚。《智能体规范应用与创新发展实施意见》今年 5 月由三部门联合印发，明确划了用户授权与自主决策的边界，按场景和影响分级治理。

二是 AI 进了手机。就在今天（9 月 23 日），网信部门公告荣耀「YOYO Claw」等 3 款手机端侧生成式 AI 服务通过备案，广东累计备案大模型已达 195 款。数据不出设备听着很美，但本地权限一旦被滥用，用户根本看不见。

三是全世界都在纠结同一件事。做出 Claude 的 Anthropic 公司 CEO 公开呼吁「放慢前沿 AI 研发」，理由是技术进步快过了安全研究。欧盟靠《人工智能法案》搞风险分级、强监管，美国偏向「发展优先、出事再报」。

你不用去啃那份文件，记住三件事就行：

来源：全国网络安全标准化技术委员会《人工智能安全治理框架3.0》（2026年9月发布）；法治网专家解读（2026-09-23）；江苏网信网（2026-09-23）；南方都市报（2026-09-23）；国家网信办等三部门《智能体规范应用与创新发展实施意见》（2026年5月）。

我是 数链学长，深耕价值互联网，带你看懂区块链实体落地与行业趋势。