乐于分享
好东西不私藏

惊!AI 居然编造政府工作报告内容,太敢说了

惊!AI 居然编造政府工作报告内容,太敢说了
我身边越来越多的人开始讨论,这个AI说谎怎么办?
用不同的AI工具来回验证也没有办法完全避免这个问题,原本觉得AI用的挺好,现在却总是担心AI给的答案有假。
尤其是一些文献、政策、数据,有时候假的有些离谱。关键是看起来有模有样,只有当你真正刨根问底查了之后,才能发现问题。
这个问题我也很困惑,但是目前没有好的解决办法,至少我用的是最笨的手段——多查。
前几天我研究OPC(一个人公司),所以就展开了和AI的对话。
果不其然,AI“说谎”了。
今天和你分享我和AI对话的过程,以及我是如何“揭穿谎言”的。

AI的谎言

先说我对AI的态度:必须用,多用,关键信息靠自己。
我和AI大概对话10分钟左右,关于我想了解的OPC的信息已经非常全面,而且结构特别清晰,这是AI带来的价值。
在国家和地方政策部分,AI提供了一个清单,具体如下:
AI提到,《2026 年政府工作报告》中提到:“打造智能经济新形态” 被写入,支持 OPC 发展上升为国家战略。
为了严谨,我特意在中华人民共和国中央人民政府(www.gov.cn)上打开《2026 年政府工作报告》,搜索“打造智能经济新形态” 的确有,但是“OPC”、“一人公司”搜索结果为0。
这就说明“支持 OPC 发展上升为国家战略”,这句话不是出自政府工作报告。
于是我问AI
这句话具体在《2026 年政府工作报告》的哪个段落:
你看,AI此时否认了之前给我的答案。
同时还给我做了三点补充:
然后AI在这里又出错了,截图中我标出来的部分,也不在《2026 年政府工作报告》里。
同时AI自己还做了一个总结:
为了验证“政策方向完全成立、有据可依”这个观点,我最近计划全面地查一查关于OPC的各类政策和方向,当然,收集工作依旧要交给AI。

一点点思考

你看,AI的确很方便,很好用。
问题也比较明显,就是AI没有“是非”判断能力,所见即所得。其实也不是AI自己主观上想“说谎”,也不太可能对查到的信息追根溯源到底,这也不现实。
对于用AI的人而言,就要在AI不擅长的地方去发力,有点物尽其用的意思。
而且,现在自媒体这么发达,信息严重过载,信息从源头出发,被无数次加工之后,其实早就没有本来的面目了。
更要命的是,人和AI最容易接触到的恰恰是这些被加工过的信息。
所以,我始终坚信和坚持,不管技术如何迭代更新,人始终要保持独立意识和思考能力,让技术为人所用。

写在最后

我让AI总结了我和它合作研究OPC的整个过程,这是很有意思的地方,而这个总结也是不断打磨用好AI的方法。
今天的分享就到这里,你看,AI其实很有意思。所以我的其中一个AI助手叫“你写文章可真有意思”。

柳树的公众号

一个人日更的专栏

观点·主笔·编辑 都是 柳树

未经授权,禁止任何机构或个人抓取本文内容,用于训练AI大模型/转载等用途

往期回顾

柳树的职场参考2.0

别再误解OPC:一人公司,是靠信任和手艺做小而美的生意

给AI祛魅:别让 “为用而用” 拖垮你的业务

面向职场新人、新晋管理者、创业老板提供咨询服务帮助你快速成长、带好团队、做好企业战略

有意向者请在公众号对话框留言

点个赞

分享

我喜欢