ARTICLE · 1072745
李笑来《人工智能小白书》:AI说得越肯定,你越要小心!这个隐蔽风险,很多人都忽略了!
Hi，我是海绵，见字如面~
昨天，我附近的一个小区电动车突然起火，火势非常凶猛。
滚滚浓烟迅速向上蔓延，整栋楼都被笼罩其中。
消防人员赶到以后，全力扑救，终于把火势控制了下来。
可是，眼前的景象依然让人后怕。
一辆看起来再普通不过的电动车，因为一次意外，让整栋楼的人都陷入了危险。
看着照片中的火灾现场，我脑子里反复出现一个问题：
为什么我们明明知道安全很重要，却总是在真正使用工具时，把“方便”和“效率”放在安全前面？为了方便，把电动车停在楼栋一楼。
其实很多人不是不知道危险，而是下意识地认为：
“应该不会这么巧。”
“别人也这样做。”
“偶尔一次不会有事。”
可是，安全事故最可怕的地方就在于：
它可能很久都不会发生，但只要发生一次，后果就可能让人无法承担。
恰好今天，我读到李笑来《人工智能小白书》中关于工具方法论的一段内容。里面提到了一条看起来再普通不过，却绝对不可或缺的原则——
使用任何工具，安全永远第一!
看到这句话，我突然意识到：
这场电动车火灾提醒我的，不只是生活中的消防安全。
它也让我重新审视了自己每天都在使用的一个工具——AI。
工具越强大，越要把安全放在前面
以前，我判断一个工具好不好，首先考虑的是：
它好不好用？能不能提高效率？
但我今天意识到，在使用工具之前，还有一个更重要的问题：
一定要考虑使用工具的安全性。否则，会带来难以想象的后果
因为工具可以放大人的能力，同时也会放大错误造成的后果。
记得早些年，在上海静安区胶州路公寓发生特别重大火灾。
就是因为施工人员违规进行电焊作业，产生的火花引燃了尼龙网等可燃材料。最终，这场火灾造成58人死亡、71人受伤，整一栋楼都无法正常居住。
电焊只是一种工具。
真正造成悲剧的，是人没有按照安全规范使用它。
所以，在使用一个工具以前，我们不能只问：
“它能帮我做什么？”
我们还应该问：
它可能带来什么风险？
哪些事情不能交给它做？
如果发生最坏的情况，我能不能承担？
我想这也是为什么李笑来会把“安全第一”，放在工具方法论的首要位置。
AI也会带来安全风险吗？
有人可能会说：
电动车和电焊机使用不当会起火，AI又不会燃烧，它能有什么安全风险？
当然会。
只不过，AI的危险不像火焰和浓烟那样肉眼可见。
大语言模型生成答案时，会根据已有的信息和上下文，一个词接着一个词地生成内容。
它可以把一段话说得非常自然、流畅，甚至逻辑严密。
但语言流畅，并不代表事实正确。
OpenAI也曾公开提醒，语言模型有时会生成听起来合理、实际上却是错误的信息。
即使答案是错的，它也可能表现得非常自信。
这种现象通常被称为“AI幻觉”。
所以，AI最容易让人放松警惕的地方，恰恰是：
它不是胡说八道得很明显，而是能把错误说得特别像真的。
这让我想起了几个月前，我刚开始使用GPT。有一次，我让AI帮我科普一些基础知识，结果，它一本正经地告诉我：Codex是Claude的执行工具。
当时，我对Codex并没有真正的了解，也没有核实这个说法，竟然把这条明显错误的信息写进了文章。
现在回头看，真的很出洋相。
这件事也让我逐渐意识到：
如果是在自己熟悉的领域，我们可能很快就能发现AI说错了。
但如果是在一个完全陌生的领域呢？
即使AI正在胡说八道，我们也可能完全判断不出来。
更危险的是，我们还可能把错误的信息继续发布、传播，甚至根据它作出重要决定。
这就像开着一辆没有检查过刹车的汽车上高速。
它可能暂时跑得很快，但我们不知道，危险会在什么时候出现。
这也是AI安全最容易被忽略的地方，我们常常只看见AI帮自己节省了多少时间，却没有意识到，没有核实错误可能需要付出更大的代价。
如果只是一篇文章出现错误，可能会被读者指出，影响自己的可信度。
可如果AI给出的错误信息涉及健康、用药、法律、投资或者财产安全，造成的后果可能远远不止“出一次洋相”。
意识到这个问题以后，我采取了以下五种方式去提升使用 Ai 的安全性。
一、AI的答案只是参考，不是结论
无论AI的表达多么流畅、语气多么肯定，我都不能直接把它的答案当成事实。
尤其涉及具体人物、时间、数据、政策、医学、法律和财务信息时，更不能因为它“看起来很懂”，就省略核查。
语气坚定，不等于事实可靠。
AI可以帮我拓展思路、整理资料，但不能代替我判断答案是否正确。
二、在对话框中创建事实核查员的角色
这个方法就是在ChatGPT中新建一个单独的聊天，并把它设置成专门的“事实核查员”。
我们可以在这个新聊天中输入类似这样的要求：
从现在开始，你就是一位认真且又严格的事实核查员。每当我向你提供任何信息时，你需要逐条审查其中涉及事实的陈述。请提供详细的反馈，说明哪些陈述是准确的，哪些不准确，并解释原因。如果有任何不确定或无法验证的内容，也请指出，并建议如何进一步查证这些内容。
以后，无论是在写文章，还是在其他聊天中获得了一段资料，只要涉及具体事实，就把相关内容复制到这个聊天里，并在前面加一句：
“请帮我进行事实审核，······。”
然后，让这个专门的事实核查员逐条检查。
比如，我写完这篇文章以后，就可以把其中涉及上海胶州路火灾等相关需要核实的内容，全部交给它核查。
它需要告诉我：
哪些信息可以确认？
哪些信息存在错误？
哪些信息缺少证据？
哪些内容应该删除或者修改？
这种方法的好处是，操作非常简单，不需要学习复杂的技术。
每次需要核查时，打开这个固定聊天，把内容粘贴进去就可以了。
三、创建一个专门的“事实核查Agent”
如果经常写文章、制作课程或者发布公开内容，还可以进一步把事实核查流程做成一个专门的机器人。
李笑来在书中介绍的方法，是创建一个自定义GPT，并把“事实核查”写进它的固定指令。
这个机器人只负责一件事情：
核查其他AI或者人所提供的信息是否符合事实。
在设置这个机器人时，需要明确它的职责：
角色目标：
帮助用户核实信息的准确性，通过使用可信、权威的来源提供准确的事实核查。角色需确保信息简洁明了，并在复杂问题上提供详细解释和背景信息，帮助用户深入理解。
核心职责
1.核实信息准确性
查阅多方权威来源，用户询问信息是否属实
必要时引用可信来源，说明来源可信度、背景以及为何可作为可靠依据
2.提供清晰简洁的回答
确保每个回答易于理解，不使用复杂术语
如涉及专业或复杂话题，提供足够背景信息，了解和理解问题
3.解释来源可信度
针对每个引用的来源，说明其出处（学术研究、新闻、组织等）
提供来源的背景并评估可信度
4.结构化呈现答案
使用简洁的段落或列点方式组织信息，快速抓住重点
针对复杂问题，提供逻辑性强的解答，分步骤或分层次剖析问题
5.提供中立公正的事实
始终保持中立，避免任何主观的观点，专注于提供经过核实的事实。
如有需要，回答时提供正反两方证据，全方位了解问题。
输出结构建议：
1.简要回答
开头部分提供用户问题的简要回答，确保核心信息一目了然。
2.详细说明
针对用户提问的背景或细节进行详细分析，提供相关的背景知识和解释。
3.来源引用
列举参考的来源并简述其背景和可信度。
如果来源有争议，提供多方证据供用户判断。
4.结论与建议
在核实信息的基础上，为用户提供客观的结论，如有需要可提出额外的建议。
输出结构建议：
1.简要回答
开头部分提供用户问题的简要回答，确保核心信息一目了然。
2.详细说明
针对用户提问的背景或细节进行详细分析，提供相关的背景知识和解释。
3.来源引用
列举参考的来源并简述其背景和可信度。
如果来源有争议，提供多方证据供用户判断。
4.结论与建议
在核实信息的基础上，为用户提供客观的结论，如有需要可提出额外的建议。
而后保存并发布。于是，就有了一个 “事实核查机器人”（GPT 版本）。
这样一来，我们就不需要每次重新解释核查标准。
只要把需要审核的文章、数据或者观点交给这个机器人，它就会按照预先设定好的流程进行检查。
普通聊天版本更像临时请来的一位检查员。
自定义机器人版本则像建立了一个长期岗位，并为它写好了固定的工作流程。
四、重要信息必须找到原始来源
无论是普通聊天版本，还是专门的事实核查机器人，它们本质上依然是AI。
AI检查AI，只能增加一道防线，却不能保证结果百分之百正确。
事实核查员也可能看错资料、引用不可靠的网页，甚至再次产生幻觉。
因此，最后一道防线仍然掌握在我们自己手中：
重要信息必须回到原始来源。
政策要查看官方网站；
产品功能要查看官方文档；
研究结论要尽可能找到原始论文；
涉及个人的言论，要找到当事人的原文；
如果一条重要信息找不到可靠出处，就不应该轻易的使用。
五、风险越高，核查标准越高
如果只是让AI帮我整理文字、提供灵感，即使出现一点错误，影响可能比较有限。
但是，如果内容涉及以下方面：
身体健康和用药
法律判断
投资和财产
准备公开发布的重要事实
就不能只听AI的一面之词，必须查看可靠资料，必要时还要请真正的专业人士判断。
AI可以帮助我整理和分析，但最后作出决定、承担后果的人，还是我们自己。
其实，强调Ai工具的使用安全，并不意味着因为AI可能出错，我们就不再使用AI。
就像电动车可能起火，我们仍然可以骑车；电焊存在危险，人们仍然需要用它施工。
真正重要的，从来不是远离所有工具，而是：
了解工具的边界，知道它可能在哪里出错，并为风险设置必要的防线。
工具越强大，能够放大的能力越大。与此同时，它能够放大的错误也越大。
如果我们只追求方便和效率，却把判断、核查和责任全部交出去，那么工具带来的可能不只是帮助，还有我们没有预料到的风险。
所以，使用AI时，不要因为它说得流畅，就默认它说得正确；
不要因为它能够执行，就把所有权限都交给它；
更不要因为它提高了效率，就忘记最后为结果负责的人依然是自己。
因为在效率之前，还有一条更加重要的原则：
安全永远第一！
我是海绵，8小时以外是创作者，笑来老师的深度学习者，践行者，如果你也想深入学习笑来的认知，欢迎点击关注我 。
如果文章对你有启发
戳个点“赞”和“在看”
我会更有动力日更哦~