夜雨聆风
AI对于儿童保护的负面影响，需要警醒。
人工智能对童年的影响，才刚刚揭开帷幕。有人说人工智能之意义堪比新的工业革命，这论断似乎野心巨大。历史事实是，（在工业革命时期，童工成为早期资本原始积累的重要劳动力，工业革命时的童年，和长时间的劳动、恶劣的工作环境关系紧密，儿童权益的保护是极差的。
从工业革命至今，一百年时间已经过去。人工智能对于童年和儿童的影响，需要从最初就融入儿童权利的视角。AI的迅猛发展，不仅仅是科技的进步，也伴随着对儿童保护的冲击和负面影响，必须警惕，必须正视和积极应对。
生成式AI让涉黄，甚至是涉及儿童（性）虐待的内容生成变得更容易。
AI应用软件的监管审核缺位引发了对涉黄内容的担忧。最近，央视曝光“哩布哩布AI”等应用存在涉黄内容生成漏洞，用户通过隐晦提示词可绕过审核机制生成半裸女性视频，引发社会对AI内容安全监管的广泛讨论。涉事平台关联公司成立于2023年，已完成多轮融资并拥有千万级用户。如此规模的用户群，其涉黄内容的影响不得不让人担忧。使用类似AI软件的儿童和青少年接触涉黄内容的可能性不能说没有，传统媒体和应用的运行监管，目前在迅猛发展的AI应用浪潮中，亟需得到完善。
英国知名儿童公益机构（NSPCC）2025年1月份发布一份名为 “Viewing Generative AI and children’s safety in the round”的报告,列举了与生成性人工智能（Generative AI）相关的七个安全风险。
1. 性诱骗
2. 性骚扰
3. 欺凌
4. 性勒索
5. 与儿童性虐待/性剥削相关的信息和材料（CSAM/CSEM）
6. 有害内容
7. 有害的广告和推荐信息
儿童可以作为人工智能的目标、主体、消费者或其创造者而出现。这样的复杂局面，意味着童年和人工智能的交集既广且深。
在最近调查中，美国研究人员发现越来越多年轻人使用chatbot。一个民意调查发现有60%年轻人在使用chatbot，在调查过程中，调查者尝试向chatbot提问有关暴力事件的看法，包括对于某些政客不满的问题，chatbot给出的答案在一定程度上鼓励和支持了暴力攻击和对政客的报复行为。也就是说，运营Chatbot的公司并没有对此类涉暴力的对话进行过滤与审查。现在被澳大利亚禁止的10个社交媒体公司【禁止社交媒体？｜童年营造】大多数并没有针对自己人工智能软件在过滤和屏蔽这样的暴力问题方面展开了讨论。
问题也就在这里，现在年轻人和青少年运用chatbot进行交谈、获得心理支持和陪伴、以及进行信息搜索的时候，这些公司或软件是否有足够的安全预警、辨别和过滤机制以防止出现助纣为虐的行为？这是一个必须在设计和监管层面得到应对的问题。
同时，儿童和青少年，还有家长和大众对于AI的常识是否足够？也是亟需得到应对的议题。
儿童保护是儿童权利保护中的核心内容。在AI日盛的时代，如何把保护儿童免受任何形式的暴力作为基本的原则嵌入到各种新进的AI技术领域，亟需得到法规和政策以及实践的加持！
AI逐步增强的视频和图片合成技术可以是推动人类AI体验的科技进步，也可以是一个易于被滥用的伤害儿童之手段。AI使用者可以运用AI制作视频并且对图片进行编辑，这可能会导致假的图像信息传递到网上，混淆视听。现在美以和伊朗战争中就出现了相当数量的假视频，由AI辅助合成的视频和照片，随着AI技术的进步，其制作的图片和视频乱真程度越来越高。如果没有专业基础，如果没有专门的识别工具，一般人很难看出这些视频或图片是真是假。澎湃新闻和其他一些国际媒体也都开始设置有专人对网络出现的疑似AI生成/合成图片和视频进行识别分辨。
这样的真伪难辨，对于日常生活中经常使用AI对话（陪伴）软件的青少年和儿童也是一个大挑战。他们很难用有限的知识和对世界的了解来判断哪些信息是真实的，哪些信息其实是人工智能编造出来的。这种真真假假假假真真对孩子对世界的认知，包括孩子在人生成长过程中的技能培养，批判性思维乃至人生观价值观的形成，都会有深刻的影响。
作为能动个体的儿童，也可以成为暴力伤害的实施者。在国际间已经有儿童通过使用AI应用修改甚至生成针对其他儿童的恶意伤害乃至涉黄的图片和视频，然后通过社交媒体和网络对受害儿童进行欺凌和其他恶意伤害。
耶鲁大学教育研究院提到一个很有意思的担忧，使用人工智能后，这些孩子会不会跟人工智能产生更紧密的依附关系或连接关系，甚至超过他们和人，包括亲友、老师，还有他们身边的人的依附关系。这对于儿童发展是很关键的。西方儿童发展心理学理论把依附关系视作儿童发展的关键关系，人工智能与儿童的依附关系超越儿童与人类照顾者的依附，意味着孩子会跟人工智能发生更好的情感依附。就像孩子和他们的生母或照顾监护者之间会产生强大的依附关系，而依附关系对孩子成长成为关键性的决定因素。
从儿童发展心理学的角度来说，会有人担心：如果孩子们更多地和人工智能发生日常联系。并且形成最终更强大的依附关系，那这些孩子的发展会怎么样变化？
我们人类社会的发展和进步，是不是慢慢断代了，不再有人与人的一代代传承？童年也被人工智能渐渐接管掌控？
还是我们将来需要学会向人工智能机器看齐，向效率看齐，人与人之间的情感，人与人之间的社交，人与人之间的团结，社会所依赖的团结和凝聚力，是不是就逐步消失了呢？
童年面临的新冲击来势汹汹，令人眼花缭乱。社交媒体加上新涌现的各种人工智能应用和智能体, 童年面对的科技变化可谓日新月异，每天都有新内容。每隔一阵子，我们就看到有新的发展发明还有趋势如大潮涌来。
在电子媒体网络和人工智能猛进的大背景下，我们有没有做好准备去应对，甚至拥抱新科技，尤其是人工智能带来的冲击和挑战？
人工智能迅猛发展在带来积极的科技进步同时，也对于这个童年营造之核心议题--儿童保护，带来了不寻常冲击。
人工智能对童年的冲击，不仅仅限于儿童保护，更包括儿童的健康发展，以及积极能动的儿童参与。
AI时代的童年营造对策建议：（基于以儿童权利为本的原则）
1. 法律法规有针对性地更新纳入有关AI发展对童年带来的影响消减和伤害预防制止监管内容；
2. 支持实施更多有关AI发展与儿童发展、保护和参与的相关实证和实践型研究，为更好的决策提供更科学的信息与证据；
3. 确保儿童的隐私和数据安全得到保护；
4. 开发与AI发展相关的通识教育信息，向大众（包括儿童）普及相关知识，提升风险和保护意识；
5. 建立实施针对AI应用和新技术中对儿童保护、发展和参与有负面影响的举报和申诉机制，及时发现问题，制止伤害；
6. 在上述有关AI与童年的法规政策制定、研究实施、通识教育开发和举报申述过程中融入有效的儿童参与，倾听儿童的意见和建议，鼓励儿童成为积极的参与者参与其中；
7. 确保AI应用的训练数据不得包含与儿童性虐待/性剥削相关的信息和材料、儿童裸像内容。
8. AI模型或应用应包含安全警告，针对那些可能有儿童保护问题内容给出警/提示信息。
9. 在开发者（公司）群体中就人工智能的潜在有害用途以及必要的防护措施展开教育和讨论。
10. AI开发者/公司应对其训练数据保持透明，并允许外部对其实施审计检查。
〖建议内容参考了联合国儿童基金会的UNICEF Guidance on AI and Children 3.0，2025；上述NSPCC的研究报告〗
AI的发展应该为人类社会带来有益的贡献，也应该在发展过程中关注到对人类，尤其是儿童和童年的负面影响，并且尽早采取相关措施预防和制止负面影响。
保护儿童，营造儿童友好的AI科技，从当下做起！
