ARTICLE · 1270844
抖音发布公告,治理恶意营销号滥用AI
10月28日
抖音发布公告称
平台将持续治理滥用AI工具的
恶意营销号
并公示部分案例
此类行为主要利用AI生成“神医送福”“迎财神”“致敬军人”等祝福送礼类内容，诱导用户点赞、评论、转发，骗取流量快速起号。
例如，有450个账号发布此类内容，模板化特征明显，获得一定流量后企图通过带货变现。
另有账号持续发布AI生成的冲突类小剧场，内容聚焦家庭伦理、社会矛盾等“爽文”剧情，常在视频末尾以话术引导点赞求支持，并通过大量同质化内容、账号之间互相搬运抄袭快速批量起号。其中807个账号因同质化严重，已被处置。
此类行为主要利用AI数字人、AI合成声线等技术，冒充公众人物或其亲属出镜，通过虚构事实博取信任后引导带货变现。
例如，部分账号使用AI数字人冒充名人亲属，以“谎称患癌、饮用某产品后痊愈”等虚假养生案例博取信任，在视频结尾引导用户到商品橱窗下单。有1617个账号以此方式出镜带货，多个账号之间投稿内容一致、售卖产品一致，疑似由团伙统一教学，并假称获得“抖音综艺”授权引导用户加入机构，相关账号均已被处置。
另有账号以AI模仿名人声线配音加洗稿文案批量产出内容，并在同一主题方向批量起号，冒充公众人物本人传播相关信息。例如，有401个账号通过AI合成公众人物声线，批量产出语录或生肖讲解内容，部分账号售卖中医相关商品，营销意图明显，相关账号已被处置。
此类行为主要利用AI生成虚假画面、虚假人设或模板化谣言，以此获取流量后进行营销。
部分账号批量进行矩阵起号，用AI生成家电爆炸等惊悚画面抓取用户注意力，随后引流橱窗售卖相关清洁剂。例如，有30个账号通过此类画面引流带货，相关账号均已被处置。
另有账号使用矩阵化的新号重复投稿AI生成的虚假老龄孕妇内容，伪装成用户分享，实为引流试管机构。例如，有143个账号批量发布AI生成的虚假“好孕”内容引流至站外试管机构，其中绝大多数为近两个月新注册账号，相关账号均已被处置。
还有账号利用AI生成模板化婚恋人设，吸引流量后转向其他变现方向。例如，有66个账号通过AI生成中老年男性形象搭配告白音频吸引中老年女性关注，相关账号均已被处置。
此类行为主要利用AI生成封建迷信、阴间恐怖等猎奇内容，或渲染迷信氛围骗取用户互动，随后通过售卖祭祀用品、引导付费测算或私域导流等方式牟利。此类内容不仅容易引发用户心理不适，还可能借机传播封建迷信、误导用户。
例如，有32个账号以“道人”“师兄”“先生”等古风道家昵称命名，投稿以民俗分享为幌子，批量发布AI生成的地府生活、亡魂归程、阴间打工、祭祀超度等迷信内容，通过渲染“地府没钱寸步难行”制造用户焦虑，引导购买玉皇钱祭祀用品；另有154个账号利用AI生成白狐、神兽、观音菩萨等形象，叠加音频送祝福、送财运，还通过“天堂探亲”“冥界寻亲”等方式，骗取评论区互动，起号后引流站外“提供帮看逝去亲人现状”等付费服务。平台已对相关违规账号进行处置。
此类行为不局限于特定内容题材，而是将AI工具当作起号捷径，一款玩法在平台火爆后，大量营销号便跟进通过AI模仿批量起号，并沉淀出付费教学的黑灰产生态，一些流量转化路径较短的赛道，成为此类违规行为的高发区。
例如，有304个账号批量发布AI治愈类内容，以情感共鸣、童年怀旧为情绪钩子吸引用户，涨粉后转向套取流量激励变现；另有732个账号打着“科普”名义，批量发布历史人物传、中药材故事、国学文化等模板化内容，为后续带货或知识付费做铺垫；有108个账号集中发布民间故事题材内容，不同账号情节套路高度雷同，批量复制爆款模板；此外，有296个账号利用AI批量生成人物背景、对话脚本、售卖商品高度相似的带货视频。相关账号均已被处置。
平台一直密切关注AI工具普及带来的新挑战，并通过扩增多场景的处置能力，迭代治理机制。针对恶意营销号滥用AI工具带来的挑战，平台持续升级AI内容识别、矩阵账号检测、黑产工具特征识别等技术手段。
近一个月，平台依据“账号健康分规则”，累计处置违规短视频113.5万条，处置违规账号50.7万个，30.2万个账号通过参与平台规则学习考试等方式引导其规范创作。后续平台将持续加大对滥用AI工具实施恶意营销行为的打击力度，加强对黑产工具和教学组织的追溯打击，同时欢迎用户通过举报渠道提供违规线索，共同维护清朗网络环境。
平台也在此呼吁广大创作者，合理、正当使用AI工具进行创作，切勿使用违规做号工具批量生成低质同质化内容或从事恶意营销行为。抖音希望通过持续治理，与监管部门、行业各界及广大用户一道，引导更多创作者真诚创作，共同打造更加安全、优质和多元的内容生态。
就现在
和你分享两件新鲜事
下方随机任选一个
新闻大连（微信号：dltv8811）编辑制作
资料：抖音黑板报
编辑：丹妮
美编：海健
校对：王涛
主编：吕彬
副主编：婧琦
监制：王劲钢 侯智良
有料·有用·有温度
