夜雨聆风学习资料网

ARTICLE · 1307956

AI 助手在出卖隐私?67950 条工具调用记录

AI 助手在出卖隐私?67950 条工具调用记录

AI 助手在出卖隐私?67950 条工具调用记录

AI 助手替你订票、查医院、买东西,它不偷听对话,照样把你扒个底朝天。

上海 AI 实验室找了四款大模型,拿近 68000 条真实工具调用记录做实验。结果挺吓人:不看对话,光看工具调用轨迹,就能反推你的隐私。

最危险的是参数。服务器看不到聊天内容,但能看见 Agent 替你选了什么——查什么地址、问什么药、预算设多少。只看调用顺序成功率才 14.53%,加上参数直接飙到 27.71%。管好参数是第一道抓手。

跨领域串起来更准。单个服务器能看到 24.24%,跨四个领域串起来能冲到 32.77%。国籍最容易猜中(57.73%),宗教信仰和族裔也过半,连你现在在哪都有 38.4% 的概率被算出来。

好在精确身份信息难猜,16000 个标识符里只猜对 35 次。不过用 DeepSeek-V4-Flash 跑完全部实验只要 46 美元——一个便宜模型加一份本来就有权看的日志,就能拼出完整画像。

企业也得当心。员工每授权 Agent 连一个新工具,公司行为数据的暴露面就跟着扩大。守住数据和模型不够了,现在得加一条——守住调用。

原文AI 助手在出卖隐私?67950 条工具调用记录背后的实测
上海,2小时前,

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料