夜雨聆风学习资料网

ARTICLE · 989485

它替我发了封邮件,没问过我:AI 助手的信

它替我发了封邮件,没问过我:AI 助手的信

它替我发了封邮件,没问过我:AI 助手的信

投资人让 AI 助手替她发封邮件,没问过她。她没夸它能干,直接断了邮箱授权。

她还留下一句狠话:每一次成功的执行攒下一点信任,一次未经授权的动作,能把信任直接清零。

这周另一头,Anthropic 把 Claude in Chrome 开放给所有付费用户。它不再每一步都问你,而是先让机器审一遍:动作合不合原请求、网页里有没有藏指令。用户也能随时切回手动模式。

两件事看着相反,真正分水岭就一个:这事能不能收回来。

归档错了能移回,自动做就行;邮件发出去、钱花掉、合同签了,收不回来——这种必须留门。断开授权后数据还在、AI 还能读邮箱验证码,问题就在这:停止键没真停。

做产品就盯五件事:能不能撤销、谁担后果、停没真停、碰没碰凭证、外部内容会不会带假任务。

能力让人开始用,对停止键的信心才决定人敢不敢接着用。

原文它替我发了封邮件,没问过我:AI 助手的信任是怎么归零的
上海,8小时前,

相关学习资料

返回首页浏览学习资料