用 AI 工具干这些事?你可能已经违法违规了!

近年来，生成式人工智能（AIGC）和深度合成技术发展迅猛，AI写作、AI绘画、数字人直播等工具降低了内容创作的门槛。然而，技术是一把双刃剑。部分从业者、自媒体博主为了博取流量、吸引关注，或为了降低商业运营成本，滥用AI工具制造虚假信息、侵犯他人权利，最终触碰了法律红线。

本文将通过近期发生的典型案例，以案说法，深度剖析使用AI工具从事哪些活动属于违法违规行为，帮助大家厘清AI时代的技术与合规边界。

场景一：利用 AI 编造灾难、事故等虚假信息

【以案说事】网民赵某为了吸引粉丝关注，利用AI工具输入关键词，生成了一篇题为“长治人速看！长晋高速大客车侧翻致2死6重伤……”的贴文，并配发了多张AI生成的所谓“车祸现场图”。该贴文发布后引发大量网民关注和转发，造成了不良社会影响。经网安部门核实，该高速路段并未发生此类事故，内容纯属虚构。最终，公安机关依法对赵某作出了行政处罚。

【以案说法】违反的法律法规：《中华人民共和国治安管理处罚法》第二十五条第一项、《中华人民共和国网络安全法》第十二条。

合理解析：在网络上编造、散布涉及公共安全、灾难事故、群体性事件等虚假信息，极易引发公众恐慌，扰乱社会公共秩序。即使相关图文和视频是“AI一键生成”的，发布者作为传播主体，依然要承担法律责任。

行政责任：根据《治安管理处罚法》，散布谣言故意扰乱公共秩序的，可面临拘留及罚款。

刑事责任：如果利用AI编造的险情、灾情等虚假信息在网络上引发大规模混乱，严重扰乱社会秩序，还可能触犯《刑法》第二百九十一条之一的编造、故意传播虚假信息罪或第二百九十三条的寻衅滋事罪。

场景二：未经授权用 AI “克隆”名人或他人形象进行商业牟利

【以案说事】某直播带货从业者邢某，在未经授权的情况下，非法使用某知名政治人物形象的“AI数字人”和合成声音，在媒体平台上进行直播带货和方案推广。此举引发了大量网民的质疑，严重干扰了正常的网络秩序。最终，公安机关依法对邢某作出了行政处罚。

【以案说法】违反的法律法规：《中华人民共和国民法典》第一千零一十九条、第一千零二十三条，《互联网信息服务深度合成管理规定》。

合理解析：AI“换脸”和“克隆声音”属于深度合成技术的应用。我国法律对人格权有着严格的保护。

侵犯肖像权与声音权：《民法典》明确规定，任何组织或者个人不得利用信息技术手段伪造等方式侵害他人的肖像权；对自然人声音的保护，参照适用肖像权保护的有关规定。未经本人同意，擅自利用AI技术生成他人的肖像或声音用于商业带货、宣传，属于典型的民事侵权行为。

违反深度合成规定：《深度合成管理规定》明确指出，深度合成服务使用者在利用该技术生成或者显著改变信息内容时，应当进行显著标识，防止公众混淆。利用名人虚假形象误导消费者，不仅违反行业合规监管，还涉嫌欺诈。

场景三：利用 AI 平台“一键洗稿”并直接发布未核实内容

【以案说事】网民田某某在某App上看到一篇涉及车祸的模糊线索后，为图省事，直接将链接复制到AI写作平台，由AI一键生成了一篇标题为《4月29日突发惨烈车祸：大货车侧翻致3死，现场画面曝光》的文章并直接发布，文中还配有AI生成的事故惨烈图片。经查，当地并未发生此类事故。田某某因未履行内容核实义务、利用AI散布谣言，被公安机关依法处以行政处罚。

【以案说法】违反的法律法规：《网络信息内容生态治理规定》、《生成式人工智能服务管理暂行办法》。

合理解析：许多人误以为“AI写文章、配图，即便出事也是技术的问题，与自己无关”。这是一种严重的认识误区。

发布者是“第一责任人”：根据《网络信息内容生态治理规定》，网络信息内容生产者应当履行主体责任。利用AI工具进行“一键洗稿”、“一键改写”时，如果使用者不对生成的内容进行事实核实就直接发布，导致虚假信息流向公共平台，使用者必须承担相应的法律后果。

信息安全合规：《生成式人工智能服务管理暂行办法》等规定明确，AI技术的使用不能危害社会公共利益。服务使用者在享受AI便利的同时，也承载着等同于传统编辑、创作者的“内容审查义务”。

技术无罪，唯在人守其道。ResGov等AI治理理念倡导“责任为导向、伦理为底线、安全为基石”的AI应用范式。对于每一位互联网从业者、企业以及普通网民而言，在享受AI技术红利的同时，必须时刻牢记以下合规底线：

不跟风、不盲信：不利用AI编造、改写未经证实的突发事故或灾难信息。

守权利、尊他人：未经授权，绝不利用AI深度合成技术伪造他人的声音、人脸或数字人形象用于商业用途。

明标识、促透明：凡是使用AI合成的高仿真音视频、图片，应当按照国家规定进行显著的“AI生成”标识，避免误导公众。

守住合规底线，方能让AI技术真正服务于美好生活，共同践行安全、负责任的AI善治之道。（文/ResGov人工智能治理研究中心）

ResGov人工智能治理研究中心致力于以”责任为导向，伦理为底线，安全为基石“构建中国AI治理新范式。ResGov以‘R-E-S’为核心准则，提供负责任（Responsible）的价值引导、合伦理（Ethical）的合规框架以及强安全（Secure）的风险管控，三位一体的治理模型（Governance），帮助企业与机构在飞速发展的AI时代，拥抱技术创新，守住合规底线，共同践行具有中国特色的AI善治之道。

参考文献：利用AI工具造谣传谣 5起典型案例公布

PS：针对当前数据与人工智能治理行业的痛点与合规刚需，我们特别推出数据和人工智能治理培训班，教您搭建企业专属的AI与数据合规治理体系。培训考试合格，颁发考试成绩合格的，由工业和信息化部人才交流中心颁发数据资产安全合规师（高级）或首席数据官（高级）或数据治理工程师（高级）岗位能力评价证书及ResGov人工智能治理专家证书。