当AI成为施暴工具:未成年人的维权路径

2026年5月31日，北京时代峰峻文化艺术发展有限公司就旗下16岁练习生王橹杰发布“严正声明”，揭开AI时代新型网络暴力一角。声明称，网传该未成年艺人“恋爱”“私联”等内容，是饭圈互撕恶意造谣，相关言论、截图及影像通过AI生成、恶意拼接伪造，歪曲事实、毫无依据。如今，AI绘图、智能修图工具普及，伪造“亲密合照”“聊天记录”只需输入提示词，我们面临技术赋权滥用新危机。若不从制度层面回应，有网络画像的未成年人，无论是否为公众人物，都可能被AI精准打击。

首先，技术门槛降低使施暴者泛化。过去制作逼真虚假合影需专业人士且耗时耗力，如今普通用户几分钟就能批量生成伪造图片，让网络暴力从偶发变高频。

其次，传播性质质变。传统谣言易被识破，AI生成的仿真内容细节丰富，迎合猎奇心理。

最后，损害后果严重。青春期是自我认同构建关键期，外界评价影响人格塑造，AI造谣践踏名誉权和肖像权，即便澄清也难消除对未成年人的负面影响。《未成年人网络保护条例》第二条强调对未成年人保护坚持最有利于未成年人的原则，应特殊、优先且全面，而AI技术正挑战这一底线。

1.北京互联网法院的“平台连带责任”警示。

《法治日报》公众号2025年5月26日发文《高中女生被造黄谣，法院判平台赔8000元》。本案中，两名未成年女学生因校园矛盾，一方委托他人用AI技术制作含对方校服照、姓名及招嫖信息的虚假视频。北京互联网法院指出，涉案视频含未成年人清晰面部特征及低俗内容，平台本可用技术手段识别并拦截，却在次日接到投诉才删除，致侵权信息传播3.5万次。上传黄谣视频的平台在未成年人父母投诉后未及时处理，次日才下架视频，父母将平台所属科技公司告上法庭。通常，平台尽到“通知—删除”义务大多不担责，但本案网络信息严重侵害未成年人权益。最终，法院认定平台对这类违法信息应尽更高注意义务，涉案平台未及时有效采取措施，应承担侵权责任。

2.浙江嘉兴的“行政拘留”红线。

“光明网”2025年8月5日《大反转，竟然是假的，官方通报拘留》，一名成年男子为博取流量，利用AI大模型伪造“女儿走失”的图文寻人启事，引发社会恐慌，导致大量警力出动。虽然该行为未直接针对特定未成年人，但其滥用AI制造虚假信息的行为，严重扰乱了公共秩序。最终嘉兴南湖公安依法对王某某作出行政拘留的处罚决定。

如果说第一个案例聚焦于民事赔偿，那么浙江嘉兴的这起案例则划出了行政执法的红线。只要其行为达到了扰乱社会秩序、造成公共恐慌的程度，即便只是编造虚假信息，也将面临严厉的法律制裁。

3. AI换脸的刑事拘留

2026年5月14日，“今日头条”《用AI编造发布“未成年男孩失踪被害”等，西安市严处一批网络违法违规账号》，西安市网信办通报的案例：阎良区网民张某某为吸眼球、博流量，在抖音账号“开*果（小****粉）”利用AI软件编造发布“一未成年男孩失踪、被害”的虚假信息，造成社会恐慌。阎良区公安部门以涉嫌编造、故意传播虚假信息罪，依法对该网民采取刑事拘留措施，网信部门依法对相关账号作永久禁言处置。

这三个案例体现了AI造谣行为法律追责完整内容。一是平台未履行管理义务需承担侧重损害填补的民事法律责任，二是对造谣个人实施行政处罚甚至是刑事追责。虽然理论上追责框架层次分明，但当前司法实践和执法中，对于损害结果不易量化、技术手段隐蔽的轻度AI造谣行为，现行法律缺乏精细化、可操作判定标准与追责门槛，导致执法和司法机关难将其纳入法律追责轨道。

王橹杰事件并非孤例，它是技术管控、法律规制、平台责任与教育体系四维失灵共同作用的结果。

第一，技术管控的前置缺失。

无论是具备公众关注度的未成年艺人，还是普通在校青少年，其个人肖像、生活信息、言论动态均可被随意篡改、伪造，该类行为直接违反《中华人民共和国民法典》第一千零一十九条“任何组织或者个人不得以信息技术手段伪造等方式侵害他人肖像权”、第一千零二十四条“民事主体享有名誉权，任何组织和个人不得以侮辱、诽谤等方式侵害他人的名誉权”的强制性法律规定，本该赋能社会的智能技术，彻底异化为侵害未成年人权益的新型施暴工具。大多数AI工具，虽然在前端设置了内容安全过滤器，但很难追溯到原始的生成账号、提示词和操作时间。

第二，法律规制的滞后与模糊。

《中华人民共和国未成年人保护法》第七十二条规定，未成年人、父母或者其他监护人要求信息处理者更正、删除未成年人个人信息的，信息处理者应当及时采取措施予以更正、删除。但司法实务中，未成年人普遍存在取证难、举证难、追责难、维权成本高的现实痛点，大量轻微AI侵权行为难以落地追责。

平台层面，《未成年人网络保护条例》第二十九条及第六章“法律责任”相关内容明确规定网络服务提供者负有内容审核、风险防控、乱象治理的法定主体责任。平台本应是保护未成年人的首道防线，但在流量至上逻辑下，部分平台对饭圈造谣、圈层引战等内容监管不力。传统人工审核和关键词过滤机制难以应对AI生成内容的海量爆发与伪装，不少平台以“通知－删除”免责，忽视主动治理义务。

尽管我国已构建起以《中华人民共和国未成年人保护法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》及《未成年人网络保护条例》为核心的法规体系，但仅为原则性规定，对于AI图文篡改、轻度虚假合成、隐性造谣等新型轻量化侵权行为，未细化界定标准，存在明显的法律适用空白。

第三，教育防护的错位与缺位。

家庭和学校的教育往往侧重于“限制使用”，而忽视了“能力建设”。未成年人被教导“少上网、别乱点”，却没有被教会如何识别AI伪造内容，如何在遭遇网络暴力时进行有效存证和维权。这种防御性的教育策略，在进攻性极强的AI技术面前，显得不堪一击。

1.证据固定

除了基础的网页和截图，必须对谣言最初的发布页面、账号主页、发布及修改时间等痕迹进行全面锁定。同时务必使用可信时间戳、区块链存证或公证处公证的方式，对视频、直播剪辑、弹窗广告等进行录屏保存。重点保留私信记录、平台站内信、邮件往来，以及最关键的证据留存链接。

2.要求平台履行阻断义务

《未成年人网络保护条例》第三十条规定，国家网信、新闻出版、电影部门和国务院教育、电信、公安、文化和旅游、广播电视等部门发现违反本条例第二十二条、第二十四条、第二十五条、第二十六条第一款、第二十七条规定的信息，或者发现本条例第二十三条第一款规定的信息未予显著提示的，应当要求网络产品和服务提供者按照本条例第二十九条的规定予以处理；对来源于境外的上述信息，应当依法通知有关机构采取技术措施和其他必要措施阻断传播。

《生成式人工智能服务管理暂行办法》第十四条规定，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

上述两部法律明确了网络平台和生成式AI服务提供者承担着“守门人”职责。因此被侵权人一旦发现侵权行为的，应立即向服务提供者递交《删除屏蔽断开链接通知书》，附带身份证明、谣言链接、侵权初步证据、未成年人和监护人身份关系证明，以及要求平台提供造谣账号实名信息的诉求。

3.向主管部门投诉举报

当谣言形成一定范围传播或造成心理伤害时，需引入公权力。《生成式人工智能服务管理暂行办法》第十八条、第十九条规定，使用者发现服务不符合规定，可向有关主管部门投诉、举报，主管部门开展监督检查，提供者应配合并说明相关情况、提供支持协助。《未成年人网络保护条例》第七条、第八条规定，相关主体应接受监督、配合检查，建立投诉举报渠道，任何组织和个人发现违规可向多部门投诉举报，收到部门应及时处理或移送。此外，依据《中华人民共和国治安管理处罚法》第二十九条、第五十条规定，故意散布谣言、公然侮辱他人或者捏造事实诽谤他人的应当受到拘留或罚款等相应处罚。被侵权人带着证据、身份证明等资料到属地派出所报案，可追究侵权人的行政责任。

4.民事赔偿

网络服务提供者负有法定的风险防控义务。监护人向平台提交《删除通知书》若平台在接到通知后未及时采取删除、屏蔽、断开链接等必要措施，导致损害扩大的，依据《中华人民共和国民法典》第一千一百九十七条，平台需对扩大部分与侵权人承担连带责任。因此，被侵权方务必保存好平台的受理回执和处理结果。

此外，可要求平台披露造谣账号的注册信息（如姓名、联系方式），为后续诉讼锁定造谣者，并向人民法院提起民事诉讼，要求侵权方停止侵害、赔礼道歉、消除影响、赔偿损失。情节严重的，可以依法追究刑事责任。