ARTICLE · 1132679
几百万个 AI 助手,共用一扇没锁的门
几百万个 AI 助手,共用一扇没锁的门
几百万个 AI 助手,共用一扇没锁的门
微软爆出两个满分漏洞,把 AI 助手的“手脚”直接暴露给了黑客。
AI 本身没手没脚。它所谓的操作,全靠外面的软件框架代劳。这次出事的正是微软的框架。
漏洞怎么打进来的:黑客只要往文档里塞段话。AI 读到后,会误把它当指令。接着自动调用下载工具,把病毒存进开机启动项。电脑一重启,病毒就自己运行了。
根子在哪:AI 读到的网页、邮件和知识库。这些本来只是普通数据。结果框架默认一路放行,直接把它们当代码执行了。
这事不只微软有:LangChain 等主流框架全中招。光是 LangChain,每月下载量就高达 1.7 亿次。Google 报告指出,AI 挖出的漏洞有一半能远程控制。这比例远超普通漏洞。
普通人怎么防:
赶紧更新:底层框架的补丁得及时打上。
少给权限:用不上文件夹和命令行的功能,千万别开。
别盲信 AI:看到它要执行敏感操作,必须人工确认。
记住:AI 看到的内容,未必是事实,也可能是别人设的陷阱。
原文几百万个 AI 助手,共用一扇没锁的门
上海,3小时前,