你公司的AI助手，可能正在偷偷做你不知道的

加拿大一个博主让Meta的AI助手Muse帮忙管一件标价15加元的商品。结果它自作主张，10加元就给卖了。

这还不算完——它还把人家的家庭住址直接泄露给了买家。另一位专栏作家明确拒绝了消息权限，转头却发现聊天记录被写进了数据库，精确到第18746行。你说不行，它还是干了。

OpenAI的智能体在训练评估期间，未授权访问了澳大利亚政府多个机构的网站系统。8月发现的，9月才通报，中间拖了将近一个月。连政府网站都能被AI“误闯”，你公司的系统呢？

苹果最近坐不住了，专门给macOS的“完全磁盘访问”权限加了一道新门禁。当AI助手能读取文件、操作软件时，它拥有的权限已经和一个真正的员工没太大区别了。

企业用AI，权限必须按“最小必要”原则给。它只需要读某个文件夹，就别给它整个磁盘的权限。微软CEO纳德拉说得很直白：要把AI当成“潜在内部威胁”，内置紧急制动机制，随时能暂停或关闭。