AI 的边界:幻觉、隐私、版权和安全

“阅读本文大概需要 6 分钟。

用 AI 最危险的时刻，往往不是它明显答错。

而是它答得很顺。

结构完整。

语气肯定。

还给出了时间、数字、来源和具体结论。

你看了一遍，觉得挺像那么回事，顺手就用了。

后来再核对，才发现有些内容根本不存在。

我自己用 AI 写文章、查资料、处理文件时，越来越在意一件事：

AI 好不好用是一回事，哪些内容能相信、哪些资料能给它、哪些动作能让它自动做，是另一回事。

前面七篇，我们一直在讲怎么把 AI 用起来。

理解大模型。

理解上下文。

学会写 Prompt。

接入知识库。

让 Agent 调用工具。

再把习惯沉淀成 Skill 和工作流。

到了最后，还要补上一块：

AI 的边界。

这个边界不是为了劝大家少用 AI。

恰恰相反。

只有知道哪里容易出问题，才敢把更多事情交给它。

先说幻觉。

所谓 AI 幻觉，可以简单理解成：

它把不确定、错误或者不存在的内容，说得像真的一样。

它可能编一个政策条款。

编一本书里的原话。

编一个网页链接。

编一组看起来很专业的数据。

有时它不是完全胡编。

而是把几件真实的事情拼在一起，最后得出一个错误结论。

这比明显的错误更难发现。

因为表达很流畅。

人很容易把“说得像真的”误认为“它就是真的”。

为什么会这样？

因为大模型首先是在生成一个合理的回答。

它不是每说一句话，都先去数据库里核对一遍。

如果当前上下文里没有可靠材料，它就会根据已有能力继续生成。

猜得准的时候，我们觉得它很聪明。

猜错的时候，就是幻觉。

所以，面对事实性问题，不能只问：

“AI 是怎么回答的？”

还要问：

“依据在哪里？”

涉及最新消息，要让它搜索并查看原始来源。

涉及制度条款，要回到正式文件。

涉及数字，要核对统计口径和日期。

涉及引用，要确认原文里真的有这句话。

涉及法律、医疗、投资等专业判断，更不能把 AI 的回答直接当成最终结论。

一个很实用的 Prompt 是：

“请把事实、推测和建议分开写。无法确认的内容请明确标注，不要补全。”

这句话不能消灭幻觉。

但能提醒 AI 少装作确定。

第二个边界，是隐私和数据安全。

很多人用 AI 时，会把“发给 AI”理解成“只在我和它之间说”。

实际并没有这么简单。

你上传的文件可能经过云端处理。

对话可能被保存在服务中。

企业账号和个人账号的数据规则可能不同。

不同产品是否用于模型训练、保存多久、能否关闭记录，也可能不同。

所以在上传资料前，先不要急着问“AI 能不能读”。

先问：

“这份资料能不能离开原来的系统？”

比如身份证号码、银行卡号、手机号、家庭住址。

比如客户名单、交易流水、合同原件、未公开财务数据。

比如内部账号、密码、API Key、AppSecret。

比如公司尚未发布的方案、代码和商业信息。

这些内容不是因为 AI 一定会泄露，就完全不能使用。

而是使用前要知道数据会去哪里、由谁处理、有没有授权、是否符合公司的要求。

如果只是想让 AI 帮忙看格式，很多时候可以先脱敏。

姓名换成“客户甲”。

证件号码遮掉。

金额用区间或虚拟数字代替。

删除不影响判断的联系方式。

只截取完成任务所需的部分。

一个朴素原则是：

不给 AI 超出任务需要的数据。

让它改一段文字，就不用上传整份客户档案。

让它分析合同结构，就先确认合同里哪些信息必须保留。

让它排查代码问题，不要顺手把密钥和生产环境配置一起发出去。

第三个边界，是版权和引用。

AI 能写文章、画图、做视频，也让内容生产变得很快。

但“能生成”不等于“可以随便使用”。

比如，你让 AI 模仿一个在世作者的风格，生成一篇几乎以假乱真的文章。

或者把一篇付费文章完整发给 AI，让它换个说法重新发布。

又或者生成了一张图片，里面出现了真实品牌标志、影视角色或明显可识别的作品元素。

这些内容即使技术上生成出来了，也不代表使用时没有风险。

对公众号写作来说，我更关注三件事。

第一，引用是否真实。

AI 给出的书名、作者、数据和原话，都要核对。

第二，改写是否只是换词。

如果文章的结构、观点、案例和表达都来自别人，只换了一些说法，仍然不是自己的创作。

第三，素材是否有使用权限。

图片来自哪里。

截图能不能公开。

图表的数据源是什么。

是否需要注明出处。

这些问题不能因为内容经过 AI 处理，就自动消失。

更稳妥的做法，是让 AI 帮你整理、拆解和生成初稿。

真正对外发布时，加入自己的判断、案例和表达，并保留可靠来源。

AI 可以降低写作成本。

但不能替你获得别人的版权。

第四个边界，是工具权限和操作安全。

普通聊天里的 AI，答错了，最多是一段错误文字。

能调用工具的 Agent，答错之后还可能真的去做。

它可以改文件。

运行命令。

调用接口。

发送消息。

创建草稿。

如果权限更大，还可能删除内容、修改线上系统或者对外发布。

能力越强，出错的后果越大。

所以权限不能按“它可能用得上”来给。

要按当前任务真正需要什么来给。

让它整理文章，就限定在文章项目目录。

让它查询数据，不一定要给写入权限。

让它推送公众号草稿箱，可以。

但正式发布，仍然留给人确认。

涉及删除、付款、转账、授权、批量修改和对外发送，更应该设置确认步骤。

还有一个细节经常被忽略：

不要只看 AI 最后说“完成了”。

要看结果。

文件是不是真的生成了。

内容是不是写到了正确位置。

测试是不是真的通过了。

接口返回的是成功，还是只是请求发出去了。

草稿是进了草稿箱，还是已经对外发布。

AI 的自我汇报不是证据。

可检查的结果才是。

再说一个经常被问到的问题：

开源模型和闭源模型，哪个更安全？

这个问题没有一个简单答案。

闭源模型通常由平台提供服务。

优点是使用方便，模型能力、产品体验和安全机制往往比较完整。

但数据可能需要发送到服务商的系统中处理。

你要关注它的数据政策、企业条款、地区和账号设置。

开源模型可以自己部署。

如果真正运行在自己的设备或内网里，敏感数据不必发送给外部平台，这一点很有价值。

但自己部署不等于自动安全。

模型从哪里下载。

运行环境有没有漏洞。

权限怎么配置。

日志有没有保存敏感信息。

谁能访问服务器。

这些都要自己负责。

所以不能简单说：

开源一定安全。

或者闭源一定不安全。

更准确的判断是看具体场景：

数据在哪里处理？

谁能访问？

保存多久？

是否用于训练？

出了问题谁负责？

你有没有能力维护这套系统？

安全不是模型名字带来的。

它来自完整的数据和权限管理。

理解这些边界后，使用 AI 不需要变得畏手畏脚。

可以先建立几个习惯。

第一，重要事实要核对。

尤其是数字、日期、政策、引用和专业结论。

第二，敏感资料先判断能不能上传。

能脱敏就脱敏，只提供任务需要的部分。

第三，对外内容要检查来源和版权。

不要把 AI 的生成能力当成免费素材库。

第四，高风险动作保留人工确认。

发布、删除、付款、授权、对外发送，不要轻易全自动。

第五，检查真实结果。

不要因为 AI 说“已经完成”，就默认事情真的做完了。

这五件事看起来很普通。

但真正把 AI 用进工作以后，它们比背多少个 Prompt 都重要。

AI 的能力还会继续提高。

它会读更多资料。

接更多工具。

完成更长的任务。

也会进入更多真实业务。

边界不会因此消失。

反而会变得更重要。

因为一个只会生成文字的 AI 出错，影响可能只是一段回答。

一个能进入文件、系统和工作流的 AI 出错，影响的是实际结果。

这个系列写到这里，最后想留下的不是“AI 很强”，也不是“AI 很危险”。

而是一个更朴素的判断：

AI 是工具，也是协作者。

可以让它帮你查、帮你写、帮你整理、帮你执行。

但事实要核对。

资料要有边界。

权限要受控制。

最终责任仍然在人。

记住一句话：

真正会用 AI，不只是知道怎样让它做得更多，也知道哪些事情不能直接相信、不能随便上传、不能完全交给它。