# News #
编者按:“AI魔改”指滥用AI工具对经典影视、动画等内容进行颠覆性篡改、魔性解构与低俗化改编,严重背离原作精神内核,冲击文化认知、助长侵权行为。
近期,广电总局对“AI魔改”视频的治理成效显著。今年1月启动专项整治,有效遏制了经典作品被恶意篡改的乱象。自2月起,治理转入常态化,建立长效机制,督促各平台按月发布治理成果。以红果短剧为代表的平台积极响应,清理违规AI内容,共同关注网络视听生态的规范与净化。

图片来源:榆林日报
国家广播电视总局:“AI魔改”视频治理工作取得实效
为整治“AI魔改”视频传播乱象,国家广播电视总局2026年1月开展了为期一个月的专项治理工作,重点清理基于四大名著、历史题材、革命题材、英模人物等经典电视剧作品进行“AI魔改”的违规视频,并同步清理各类邪典动画。专项治理工作共清理相关违规视频23000余条、处置违规账号100余个,有效遏制违规视频蔓延的不良态势。
自2月1日起,“AI魔改”视频治理工作通过常态化、制度化长效机制持续开展。针对“AI魔改”违规视频生产和传播特点,广电总局督导各主要网络视听平台进一步深化落实主体责任,完善工作流程,强化审核能力,加强日常排查,坚决清理违规视频,并按月发布治理成果,接受社会监督。截至3月31日,主要网络视听平台已清理违规视频近29000条、处置违规账号40余个。
广电总局将密切关注AI技术发展,强化价值引领,筑牢文化安全防线,不断净化网络视听生态,营造风清气正的广电视听文艺创作环境。
来源:国家广播电视总局
拓展阅读
#Extended-Reading #
金心怡 王国燕 等 | 信息线索对深度伪造视频可信度的影响机制
杨正 吴福仲 等丨生成式AI科学传播内容中的身份策略及其信任效果研究
西蒙尼·纳塔莱丨媒介的欺骗性:后图灵时代的人工智能和社会生活
吕航、袁淑培 | 我知道这是深度伪造:AI声明和理解能力在处理深度伪造恶搞中的作用
Arun Vishwanath等 | 网络钓鱼易感性的怀疑、认知和自动性模型
Peter S. Park等 | Patterns:人工智能欺骗的案例、风险和潜在解决方案
Keith Raymond Harris| 人和AI的感情就像烟雾机:情感人工智能和欺骗性信号
Jeremy Scheurer等 | 大语言模型在压力之下可以策略性地欺骗用户
Steven Umbrello等丨重新定义“以人为本的人工智能”的欺骗行为
Di Cooke等 | 如同抛硬币:人类准确识别AI生成媒体内容的概率
Thilo Hagendorff | PNAS:大语言模型出现了欺骗能力
Peta Masters等 | 人工智能欺骗行为的特征分析与综述
Laurene Vaugrante丨微调欺骗攻击能够损害大语言模型的诚实性和无害性
Dahey Yoo等丨解读欺骗:AI语言的修辞如何影响用户对真实性的理解
Alexander Diel等丨人类识别深度伪造的表现:系统综述与荟萃分析
Donghee Shin等丨 人们如何理解生成式AI中的错误信息
Michael Hameleers丨政治语境下的廉价伪造VS深度伪造
Kevin Warren等丨“宁信电脑,莫信人言”:评估人类识别深度伪造音频的表现
Dominic Lees丨纪录片制作中的深度伪造:真实再现的欺骗性影像
Valdemar Danry等丨欺骗性AI解释比诚实解释更易影响人们对虚假信息的信念
Zhangyang Wang团队丨AI脑腐:大语言模型的脑子也会变糊涂!
Piercosma Bisconti等丨对抗性诗歌或成为大语言模型通用的单回合越狱机制
Emilie Josephs 等丨放大“伪影”能提高人类检测深度伪造的能力与主观置信度
Nils Köbis等丨Nature:将任务委托给AI可能放大失信行为
Judith Simon丨生成式人工智能的四重欺骗机制与信任
Ariel Flint Ashery等丨大语言模型群体中出现社会规范与集体偏见
Maria Pawelec等丨向善的深度伪造?技术开发者的伦理考量与治理前景
Alena Birrer等丨深度伪造需要基于实证的适应性治理
《欺骗性人工智能》学术前沿专栏编辑部
主编:王国燕
副主编:张卓越
编辑:金杉杉、吴东昊、彭珊、闫怡爽、廖雨萱、夏妙、柴艺、李淼、陈姞如、陈思远、邱文博、张博涵、郭锐洁、包世权、周欣怡、宋亦蓉、徐子浩
END

夜雨聆风