乐于分享
好东西不私藏

中国发布首份AI伦理安全指引,跟我们普通人有什么关系?

中国发布首份AI伦理安全指引,跟我们普通人有什么关系?
2026年5月19日,广西南宁。在全国网络文明大会上,《人工智能应用伦理安全指引1.0》正式发布。这个指引的发布有什么意义呢?跟我们的日常生活又有什么关系呢?
01
先说件真事
去年,一位妈妈在社交平台分享了自己的遭遇:她11岁的女儿用AI生成了一张照片参加学校比赛,拿了奖。后来被同学举报,老师说这不算原创作品,奖项取消了。女儿哭着问妈妈:“电脑帮我画的,怎么就不算我的呢?”
这位妈妈不知道该怎么回答。
类似的事情每天都在发生——
  • 有人用AI写论文,被学校开除
  • 有人用AI生成“某明星出轨”的假新闻,明星花了三个月才自证清白
  • 有老人接到AI模仿孙女的语音电话,被骗走毕生积蓄
AI越来越聪明,但“聪明”不等于“向善”。
这就是为什么国家要出台这份指引。
03
这份指引是什么?
《人工智能应用伦理安全指引1.0》,由全国网络安全标准化技术委员会(网安标委)发布,清华大学人工智能国际治理院牵头起草。这是中国第一份专门针对AI应用层的伦理与安全规范文件。
简单说,它回答了一个问题:AI可以做什么,不可以做什么,应该怎么做。
过去我们谈AI治理,更多是喊口号——“要负责任”“要安全”“要公平”。这份指引不一样,它给出了具体的行为准则,告诉开发AI的公司、提供AI服务的平台、使用AI的普通人,各自该做什么。
04
为什么AI伦理安全这么重要?三个例子讲明白
例子1:AI看病——你敢不敢把命交给机器人?
现在一些医院已经开始用AI辅助诊断了。AI读一张CT片,几秒钟就能给出结果,准确率甚至超过普通医生。
但问题来了:如果AI误诊了,谁负责?是开发AI的科技公司,还是使用AI的医院,还是那个以为“机器肯定比人准”的医生?
更敏感的是——如果AI建议“放弃治疗”,这个决定该听谁的?
这份指引明确要求:高风险场景必须保留人工干预通道。也就是说,AI可以帮你看病,但最终拍板的必须是人。
例子2:AI招聘——你的简历被谁刮掉了?
2025年,某大公司被曝光:他们的AI招聘系统自动过滤掉了所有“女性”和“35岁以上”的简历。不是因为公司故意歧视,而是AI从历史数据中学到了“以前录用的都是年轻男性”,于是它认为这才是“好员工”的标准。
这就是算法偏见——AI不会主观歧视,但它会“继承”人类社会的偏见,而且更隐蔽、更难发现。
这份指引要求:开发者在设计AI时,就必须把“公平公正”设为默认设置。
例子3:AI陪伴——你的“朋友”是真的吗?
现在很多独居老人和小孩使用AI陪伴机器人。它们会聊天、会关心人,甚至比真人更有耐心。
但心理学家发现了一个问题:有些老人开始对AI产生情感依赖,不愿意跟真人交流了;有些小孩把AI当作“万能答案”,失去了独立思考的能力。
这份指引把这些“未违法但有风险”的情况也纳入了考量——不仅仅是防止AI作恶,还要防止AI在不知不觉中改变我们的生活方式。
05
这份指引的十大看点
  1. 填补空白:这是中国第一份专门针对AI“怎么用”的伦理规范。以前我们管AI的研发,现在开始管AI的应用——从写代码的人,到提供服务的人,再到你和我每一个使用者,都有章可循。
  2. 七大原则:增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信。这七条听起来很抽象,但每一条背后都有真实的故事和教训。
  3. 六大影响领域:从国家战略风险防控(比如AI被用于军事),到算法偏见(比如招聘歧视),再到公民人格尊严(比如AI换脸侵犯肖像权),全部覆盖。
  4. 全生命周期管理:不是AI出了问题才管,而是从开发、到提供服务、到使用,全链条都有规范。就像食品安全——不是查出毒奶粉才管,而是从农田到餐桌全程监管。
  5. 开发者要“伦理内嵌”:安全和公平不能是打补丁,必须从设计第一天就考虑进去。就像造车,刹车系统不是出厂后加的,而是设计时就有的。
  6. 高风险场景必须有人兜底:AI可以辅助诊断、辅助判案、辅助投资,但关键决策必须有人类参与。这是这份指引最核心的一句话——AI是工具,人才是主人。
  7. 大模型幻觉要追责:AI“一本正经胡说八道”导致侵权怎么办?指引要求建立可追溯的责任认定机制。生成虚假信息、算法投毒,明确纳入监管。
  8. 不同领域不同标准:AI用来推荐视频,和AI用来诊断疾病,显然不能用同一套标准。指引提出差异化治理——生命健康、社会治理等关键领域的规则更严格。
  9. 可持续发展纳入考量:AI训练消耗大量电力和水资源,对环境的影响也要算进去。不仅要考虑“现在用AI好不好”,还要考虑“子孙后代还有没有资源”。
  10. 国际视野:倡导“敏捷共治”,推动跨国标准互认。中国不仅要管好自己的AI,还要参与全球AI治理规则的制定,兼顾文化多样性、数字鸿沟弥合与治理话语权提升。
06
跟普通人有什么关系?
你可能觉得,这是给科技公司和政府部门看的,跟我有什么关系?
关系大了。
如果你是家长:
你的孩子正在用AI写作业、查资料、甚至交“AI朋友”。谁来保证这些AI不会误导孩子?指引要求AI服务必须保护未成年人的权益。
如果你是上班族:
你的简历可能被AI筛选,你的绩效可能被AI评估。指引要求AI决策必须公平透明,你有权知道为什么被“淘汰”。
如果你是老人:
你可能接到AI模仿家人声音的电话。指引要求AI使用者不得利用技术操纵信息、欺骗他人。
如果你是创作者:
你的文章、图片、视频可能被AI“学习”后生成类似内容。指引强调尊重知识产权和人格尊严。
说白了,这份指引就是在说:无论AI发展得多快、多强大,有些底线不能碰,有些人性的东西不能丢。
07
写在最后
今年网络文明大会上,“AI向善”成了最高频的词。
技术本身是中性的。一把刀可以切菜,也可以伤人。AI也是一样——它可以帮医生更准确地诊断疾病,也可以生成谣言制造社会恐慌。
这份指引的核心只有一句话:AI可以很强大,但人必须说了算。
这不是在限制AI的发展,而是在保护我们每一个人。因为如果AI发展得越来越聪明,而我们越来越被动,那才是真正的风险。
杨梅还能吃么?我愿等待浙江杨梅
比你想的更危险:5.2级浅源地震的那些事
家有踢足球的小学生