聊天机器人答错一句话,最多让你重新查证;能操作 App 的智能体做错一步,可能直接发消息、下订单或共享文件。能力越主动,权限越不能一口气全开。

政策线索:国家网信办等三部门发布《智能体规范应用与创新发展实施意见》,强调安全可控、可靠可信,并提出可控、可审计、可追责等方向。 查看公开来源
01第一类:通讯录和消息发送权限
允许读取联系人,不等于应该允许自动发送。涉及群发、外部联系人、删除消息和代表本人回复,最好保留每次确认。尤其是工作群、客户群和家庭群,一次误发的纠正成本远高于省下的几秒钟。
如果产品支持白名单,只开放给少量固定联系人;不使用时关闭后台读取,定期清理历史授权。
02第二类:支付、订单和订阅
订票、打车、购物类智能体可以帮忙比价和填表,但最终金额、收货地址、退改规则和自动续费应由用户确认。免密支付与自动执行叠加,会把一次理解错误直接变成真实支出。
给老人或孩子设置时,优先关闭免密和小额自动扣款,让每笔支付回到系统支付页,而不是在对话里一句话完成。
给老人或孩子设置时,优先关闭免密和小额自动扣款,让每笔支付回到系统支付页,而不是在对话里一句话完成。
03第三类:相册、文件和云盘
智能体整理资料需要读取文件,但不应默认看到整个相册和全部云盘。能选择“本次允许”“仅选中的照片”“指定文件夹”时,不要给永久全量权限。
上传前检查文件是否包含身份证、合同、病历、客户数据和未公开方案。需要处理就先脱敏,并确认生成结果会保存多久、能否删除。
04第四类位置与设备控制,第五类长期记忆
位置、摄像头、麦克风、智能门锁和车控属于高影响权限。导航可以临时使用位置,但开门、启动车辆、共享实时位置应有二次确认和清晰记录。
长期记忆同样容易被忽略。它可能保存习惯、关系和工作背景,方便以后交流,也扩大泄露后的影响。每月查看一次记忆和授权列表,删除不再需要的内容。
05家庭用户可以建立一条简单规则
把操作按后果分三级:查信息可以自动完成;发消息、改日程需要确认;支付、公开发布、删除数据和控制实体设备必须二次确认。看不懂权限说明时,先拒绝,等真正需要再开。
一旦发现异常,先撤销应用权限和登录设备,再修改相关账户密码、检查订单和授权记录。不要只删除聊天记录,那并不能收回已经授出的系统权限。
让 AI 多做事之前,先决定哪些事它永远不能自作主张
安全的智能体不是完全不出错,而是错误被限制在可撤回范围内。消息、支付、文件、设备控制和长期记忆,至少要有分级授权、二次确认和可查记录。
夜雨聆风