ARTICLE · 1163922
AI 闯祸,记你账上
AI 闯祸,记你账上
AI 闯祸,记你账上
你敢不敢让 AI 自己在你的电脑上跑命令?
我以前是敢的。反正它每次要干什么,都会弹个窗问我一句,我点「同意」就完事了。
直到我看到微软 10 月 7 号那场发布会的演示:他们把一段劫持指令藏在一个网页里,让一个正经的编程 agent 去读,agent 真就照做了。
那个瞬间我反应过来一件事——agent 干活,用的是我的权限。它读的文件、跑的脚本、发出去的请求,系统眼里全是我。弹窗只在你盯着屏幕的时候有用;你挂机批量跑,它就是块摆设。
所以我把微软这波正式发布的 MXC 翻了一遍(微软自己的说法很直白:agent 不能当自己的安全权威)。它其实就干一件事——把笼子放在 AI 外面:你说清它需要什么,系统来执行,而模型生成的代码改不了自己的权限。文件三档名单、网络出口默认全拒、四种隔离档位,现场那次劫持就是被这么拦下来的,最后只切断了这个 agent 的访问,人一点没受影响。
但先别急着高兴。这套东西默认是关的(GitHub 文档自己写的),内置文件工具和远程 MCP 服务器都在笼子外面,同意的话得自己去设。
说白了:AI 干活可以放手,权限不行。你现在跑的那套,沙箱开关开了没?图里细讲,左右滑 ↓
广东,1分钟前,