网信办最新AI整治行动!这6类工具要注意,教你合规使用

上周刷手机的时候，我看到一条新闻让我皱了很久的眉头。央视曝光了一条AI”造黄”产业链，9块9就能买到教程，用别人照片就能批量生成不堪入目的视频。

说实话，作为AI领域的从业者，我既愤怒又无奈。愤怒的是，好好的技术被拿来干这种事。无奈的是，我身边不少朋友对AI工具的使用，确实存在踩线的风险。

这不，4月13号，中央网信办正式部署了”清朗·整治AI技术滥用”专项行动，一口气列出了6类重点整治问题。

今天这篇文章，我不贩卖焦虑，就给大家把这次行动掰开揉碎了讲讲，顺便说说怎么判断自己用的AI工具是不是合规的。

如果你最近关注过新闻，可能已经注意到了几个信号：央视《财经调查》4月12日曝光AI”造黄”产业链，哩布哩布AI等平台被点名存在审核漏洞，AI换脸诈骗案件频发，有人被克隆声音骗走几十万。

这些事不是孤立的。AI技术发展太快了，门槛越来越低，什么人都能用，但不是什么人都会守法。

网信办这次出手，说白了就是给AI的使用划一条底线。

我仔细看了官方文件，6类问题可以分两组来看。

直接违法的，绝对不能碰：

① 违规AI产品

包括”一键脱衣”、未授权的人脸克隆、声音克隆工具。如果有个AI工具号称能”用一张照片生成任何视频”，或者能”完美复制别人的声音”，不用想，直接远离。

② 传授、售卖违规教程

网上那些卖”AI擦边教程””换脸秘籍”的，也是重点打击对象。9块9买来的不是技术，是一张违法的入场券。

③ 训练语料管理不严

这个主要针对AI开发者，跟普通用户关系不大。就是AI公司在训练模型的时候，不能用偷来的数据。

跟咱们日常使用关系更大的：

④ 安全管理措施薄弱

有些AI工具功能很强大，但审核机制形同虚设。比如你让它生成违规内容，它照做不误，这种工具本身就存在合规风险。

⑤ 未落实内容标识要求

按规定，AI生成的内容应该有标识。如果某个平台故意隐瞒内容是AI生成的，让用户误以为是真人真事，这也是违规。

⑥ 重点领域安全风险

这个特别值得注意。有些AI工具号称能”看病””推荐股票””辅导孩子作业”，但实际上毫无专业审核，给出的建议可能害人不浅。之前曝光的”AI开处方”事件，一个没经过医学训练的AI给患者开药，想想都后怕。

说了这么多，可能有人会问：那我还能用AI吗？

当然能。AI本身没问题，有问题的是滥用AI的人。作为普通用户，你只需要记住三个原则：

第一，正规渠道下载。

尽量使用已经完成备案的大平台，比如文心一言、通义千问、Kimi这些。这些平台都经过了网信办的审核，至少在内容安全上有基本保障。

第二，别用AI干违法的事。

这句话听起来像废话，但真的很重要。不要用AI伪造别人的照片、声音，不要用AI生成虚假信息去骗人，不要用AI制作低俗内容。

第三，涉及专业领域要谨慎。

AI推荐股票？别信。AI给看病建议？别信。AI辅导孩子？可以参考，但不能替代专业判断。AI在这些领域的回答，可能存在”幻觉”，就是一本正经地胡说八道。

今年7月15日，《人工智能拟人化互动服务管理暂行办法》就要正式施行了。这个新规专门针对AI聊天、AI陪伴等场景，特别强调了对未成年人和老年人的保护。

国家不是在一刀切地打压AI，而是在规范中发展，在发展中规范。

AI是一把好刀，关键看握在谁手里。

你怎么看这次整治行动？日常用AI工具的时候，有没有遇到过什么”踩线”的内容？欢迎在评论区聊聊。

觉得这篇文章有帮助的话，转发给身边的家人朋友，尤其是家里不太懂技术但爱刷短视频的长辈们。

关注【AI防御圈】，带你安全用好AI。