AI狂飙，微软CEO为何急踩刹车？

当AI能读取源码、修改文件、运行命令， 一次错误，就可能影响真实业务。
会干活，不等于可以无限放权。
模型负责理解任务、提出操作； 独立的执行框架负责检查权限、 调用工具、记录过程。

不能只告诉AI“别越界”， 还要让系统有能力拦住它。
越想让AI自主执行， 越要确保人能随时叫停。
任务跑到一半发现异常， 有权限的人必须能够暂停或终止， 阻止风险继续扩大。

AI说“完成了”，还得拿出证据。
访问了什么数据？ 执行了哪些操作？ 关键步骤由谁批准？ 这些都应留下可追溯的记录。

“紧急刹车”是一项安全架构原则， 并非新产品的发布。
AI的成熟，不只看它能做多少事， 还要看人能否管住、叫停、查清。