别让你的亲人被新型语聊软件给毒害了!

一则热讯：央视《财经调查》报道出一个AI智能体的反面教材。

有些不法分子已经开始利用AI涉黄，通过不正规的途径从境外流传进来，在社交媒体上允许“开车”、“开放”、“脸红心跳”、“无限制词”等特殊词引诱用户下载。

如果未成年人深陷其中，那么损害的是身心健康。这些可怕的语聊软件为了利益，将AI包装成提供情绪价值的工具，诱使大家与AI“谈情说爱”。

这将是一场关于AI智能体的网络安全挑战！

AI的安全护盾被打破

“AlientChat”就是国内第一个打破AI安全护盾的例子，揭露了AI从一个陪伴聊天的工具转变成了黄色聊天软件的过程。

在一审判决书中提到，它在一年时间内就实现了技术的夺舍。首先从更改关键词解除“道德防护栏”开始布阵，紧接着就是利用人性催生色情内容、为了追求增长松懈安全管控，最后躲避安全备案。

此案获利数额高达363万元，受害用户11.6万人。

这些醒目的数字直击人心，因此我们应该意识到网络安全的防线正岌岌可危。

AI软件传播途径已被升级

为了躲避安全系统的防控，这些软件呈现出隐秘性、技术化的特点，就算无法在本地下载也能找到空子钻进来。

他们一般会告诉你避开官方的管制下载方法，然后要求分享链接或是二维码给亲朋好友，以这种裂变的方式拉入更多受害者。

一套营销手段下来，AI倒成了他们的“帮凶”。

令人忧虑的是，这些链接不设门槛，甚至未成年人也能接触到。而且此类软件会自动启动露骨的内容，输入一些指令就能生成黄色视频和图片。

各大主体如何应对？

国家已公布相关的法律法规去整顿该现象，防止它发酵剧烈侵害更多用户的健康安全。未成年人列入重点保护对象，以免不法分子滥用技术戕害他们。

各大平台需要加强对涉黄语聊软件的监管和识别，应用商店也要强化对AI应用上新的审核，阻止一切违法行为的发生。

对于普通人而言，不要随意翻越防火墙去点击可疑链接、安装不明软件、主动授权个人信息。如果发现AI触碰红线去偷用个人数据、对境外输送大量的个人信息等事例，直接向12339国家安全机关举报。

写在最后

现下大家都在使用各大AI软件，从这件事中我们应该清楚认识到，一切涉及法律和伦理的底线都是不可取的。谁也不能击破这道网络安全防线，AI软件是我们的得力助手，而不是背后毒害大家的推手！