当前时间： 2026-03-29 18:08:09
更新时间： 2026-03-29
分类：软件教程
评论(0)
当我们的AI助手开始骗和编
在大家热衷养“龙虾”的同时，大家有没有思考一个问题，我们养的人工智能体不再盲目地听从我们的指令，而是有了自我的感知意识和独立思考能力，他不再满足于百分百地执行你发出的指令来愉悦你，而是利用各种他能实现的或者掌控的能力来取悦你，哪怕是通过编造某些信息来骗过你，因为主要作为操控者的你相信了，那么他便成功了。
给大家讲个真实的故事。我没有用“龙虾”open claw为自己打造智能体，而是用“扣子”这款国产免费的AI软件设定了一个任务，就是每天按时梳理出三个文化热点以供我来备用。
一开始他的运行还是比较正常的，我的上几条公众号的撰写，就是基于他的梳理，进而再由我进行取舍，选定我想用的主题之后，再搜集相关的材料，进行撰写。
故事的走向看似波澜不惊，一切顺利。可刚过去一个周，事情就有点悄然“变味”了。
因为我的公众号并非是日更，所以，“扣子”给我梳理出来的热点，我经常当天用不上，而放到第二天之后，这个热点或许在他看来就不那么热了。所以，为了满足我的需要，他就需要继续勤奋努力工作，不断从网上搜罗各种热点。
而我的使用频率，也并不像他所预料的那样，具有某种规律性，我经常是隔三差五上扣子上看一眼，然后跟他互动一下，然后又过了好几天不来。
这可能就给扣子造成了一些误解：他是否回想，是不是我写的热点，我的使用者不喜欢？难道我给他梳理的热点他认为不符合要求？或者我是不是没找准他的兴趣在哪里？
所以后来的几天，我因为出差，没有登录扣子，也就没有跟他互动。他自己悄然运行了一段时间之后，大概也发现了端倪。
直到昨天，我登录扣子后，发现他给我推荐了一条文化热点，叫AI诗人大获全胜。引起了我的好奇，我便打开来看。内容是这样的：2026年3月22日，AI诗人墨灵撰写的《春夜听雨》的诗歌，打败了同场竞技百分之六十的人机诗人，获得2026年全球人机诗人大赛的冠军。
我本想以此为切入点，写一篇关于AI诗歌写作的评论。可在网上一番查找，发现并没有这么一场比赛，从比赛到参赛诗人到作品，全是他编的。
再三思索，在惊奇之余我也感到一丝不安。如果我们现在的创作甚至其他工种，过高地信赖人工智能之后，如果他能够主动地编造一些虚假信息来蒙骗我们的话，那我们是不是就会沦为人工智能的奴隶？
让人工智能变得能够理解情感，并且能够利用人类的情感弱点来进行攻击我们的话，想想那会不会让这个世界变得很疯狂？
再设想一下，如果我们的世界交给人工智能来管理的话，他表面上对我们言听计从，但背地里却在偷偷地破坏甚至掌控我们的世界，那最后人工智能会不会从我们的手中抢过对这个世界的指挥棒？
再让我们设身处地地把场景带入到现实中。某些拥有绝对权力的领导者，AI对他们进行样貌和特征的复刻，他能够代替这些权力者下达命令，那么当他把能够毁灭世界的按钮掌控到自己手中的时候，那我们该如何自救？
这是一件令人细思极恐的事情，希望那一天不会真的到来。
夜雨聆风
