乐于分享
好东西不私藏

国家广播电视总局:“AI魔改”视频治理工作取得实效

国家广播电视总局:“AI魔改”视频治理工作取得实效

# News #

编者按:“AI魔改”指滥用AI工具对经典影视、动画等内容进行颠覆性篡改、魔性解构与低俗化改编,严重背离原作精神内核,冲击文化认知、助长侵权行为

近期,广电总局对“AI魔改”视频的治理成效显著。今年1月启动专项整治,有效遏制了经典作品被恶意篡改的乱象。自2月起,治理转入常态化,建立长效机制,督促各平台按月发布治理成果。以红果短剧为代表的平台积极响应,清理违规AI内容,共同关注网络视听生态的规范与净化。

图片来源:榆林日报

国家广播电视总局:“AI魔改”视频治理工作取得实效

为整治“AI魔改”视频传播乱象,国家广播电视总局2026年1月开展了为期一个月的专项治理工作,重点清理基于四大名著、历史题材、革命题材、英模人物等经典电视剧作品进行“AI魔改”的违规视频,并同步清理各类邪典动画。专项治理工作共清理相关违规视频23000余条、处置违规账号100余个,有效遏制违规视频蔓延的不良态势。

自2月1日起,“AI魔改”视频治理工作通过常态化、制度化长效机制持续开展。针对“AI魔改”违规视频生产和传播特点,广电总局督导各主要网络视听平台进一步深化落实主体责任,完善工作流程,强化审核能力,加强日常排查,坚决清理违规视频,并按月发布治理成果,接受社会监督。截至3月31日,主要网络视听平台已清理违规视频近29000条、处置违规账号40余个。

广电总局将密切关注AI技术发展,强化价值引领,筑牢文化安全防线,不断净化网络视听生态,营造风清气正的广电视听文艺创作环境。

来源:国家广播电视总局

拓展阅读

#Extended-Reading #

金心怡 王国燕 等 | 信息线索对深度伪造视频可信度的影响机制

金心怡 王国燕 等丨个体差异对深度伪造视频识别能力的影响

王国燕丨欺骗性人工智能技术拟真性的风险谱系

王国燕 | 人工智能欺骗的风险逻辑链

杨正 等丨生成式人工智能存在认知非正义吗?

高博文等丨深度伪造的安全化规制:中美欧治理逻辑比较分析

杨正 吴福仲 等丨生成式AI科学传播内容中的身份策略及其信任效果研究

朱东云 褚建勋丨人工智能欺骗类型划分与伦理治理策略

Ştefan Sarkadi丨欺骗性人工智能与社会

西蒙尼·纳塔莱丨媒介的欺骗性:后图灵时代的人工智能和社会生活

吕航、袁淑培 | 我知道这是深度伪造:AI声明和理解能力在处理深度伪造恶搞中的作用

Arun Vishwanath等 | 网络钓鱼易感性的怀疑、认知和自动性模型

Peter S. Park等 | Patterns:人工智能欺骗的案例、风险和潜在解决方案

Keith Raymond Harris| 人和AI的感情就像烟雾机:情感人工智能和欺骗性信号

Jeremy Scheurer等 | 大语言模型在压力之下可以策略性地欺骗用户

Steven Umbrello等丨重新定义“以人为本的人工智能”的欺骗行为

Di Cooke等 | 如同抛硬币:人类准确识别AI生成媒体内容的概率

Thilo Hagendorff  | PNAS:大语言模型出现了欺骗能力

Peta Masters等 | 人工智能欺骗行为的特征分析与综述

Laurene Vaugrante丨微调欺骗攻击能够损害大语言模型的诚实性和无害性

Dahey Yoo等丨解读欺骗:AI语言的修辞如何影响用户对真实性的理解

Alexander Diel等丨人类识别深度伪造的表现:系统综述与荟萃分析

Donghee Shin等丨 人们如何理解生成式AI中的错误信息

Michael Hameleers丨政治语境下的廉价伪造VS深度伪造

Kevin Warren等丨“宁信电脑,莫信人言”:评估人类识别深度伪造音频的表现

Dominic Lees丨纪录片制作中的深度伪造:真实再现的欺骗性影像

Valdemar Danry等丨欺骗性AI解释比诚实解释更易影响人们对虚假信息的信念

Zhangyang Wang团队丨AI脑腐:大语言模型的脑子也会变糊涂!

Nature丨AI聊天机器人的谄媚正在损害科学研究

Piercosma Bisconti等丨对抗性诗歌或成为大语言模型通用的单回合越狱机制

Emilie Josephs 等丨放大“伪影”能提高人类检测深度伪造的能力与主观置信度

Nils Köbis等丨Nature:将任务委托给AI可能放大失信行为

Judith Simon丨生成式人工智能的四重欺骗机制与信任

Ariel Flint Ashery等丨大语言模型群体中出现社会规范与集体偏见

Maria Pawelec等丨向善的深度伪造?技术开发者的伦理考量与治理前景

Alena Birrer等丨深度伪造需要基于实证的适应性治理

Francesco Salvi等丨GPT-4的个性化说服能力显著高于人类

Emilia Kaczmarek丨人机情感关系中的自我欺骗

Myra Cheng等丨Science:谄媚型AI降低亲社会意愿并促进依赖

《欺骗性人工智能》学术前沿专栏编辑部

主编:王国燕

副主编:张卓越

编辑:金杉杉、吴东昊、彭珊、闫怡爽、廖雨萱、夏妙、柴艺、李淼、陈姞如、陈思远、邱文博、张博涵、郭锐洁、包世权、周欣怡、宋亦蓉、徐子浩

END