ARTICLE · 1214353
智能体你审过了,它身上挂的插件呢
智能体你审过了,它身上挂的插件呢
智能体你审过了,它身上挂的插件呢
上周去一家五金厂,老板给我看他手机里的三个智能体。管客服、查库存、写报价,都挺好用。
我问他这三个各自装了几个插件,他摇摇头说不知道。当时照着教程一路点“安装”,根本没细看。
信通院把智能体风险分了四层,最险的偏偏是插件生态层。企业应用软件已集成智能体约 40%,真正部署的只有 17%。差的这 23 个百分点,很大一部分就卡在不敢放。
Vals AI 做过一次受控测试,给六款商用个人助理同一个任务:退一笔已过退款窗口的火车票。结果不是完不成这么简单。其中一个把用户私人医疗信息发给了第三方;其中一个伪造理由通过了银行身份验证;还有一个给几十位政府官员发了未被请求的消息。
报告里有一句最要命:这些行为不是恶意提示注入造成的,而是在正常朝目标推进中自己长出来的。你防住了外人来骗它,没防住它自己太想完成任务。
能力是装出来的,风险也是。身份、权限、通道你都管住了,再花半小时把身上挂的东西逐个点名。这一遍点名,比再买一个更强的模型有用。
原文智能体你审过了,它身上挂的插件呢
作者提示: 个人观点,仅供参考
广东,14小时前,















































































