夜雨聆风
AI应用伦理安全指引发布
5月19日，在2026年中国网络文明大会人工智能赋能网络文明建设分论坛上，全国网络安全标准化技术委员会发布了《人工智能应用伦理安全指引1.0》，进一步完善我国人工智能安全治理体系。
中国电子技术标准化研究院副院长范科峰在发布仪式上表示，当前我国人工智能应用正从内容生成向辅助决策、智能控制等领域快速拓展，智能体等新形态人工智能的自主性、复杂性显著提升，由此带来的就业结构调整、情感依赖、认知异化等伦理安全问题日益显现。《人工智能应用伦理安全指引1.0》由全国网络安全标准化技术委员会组织专家研制，经多轮征求意见与评审完善，系统梳理了AI应用的六大结构性影响——既关注宏观层面的战略风险防控与人类主导权维护，也聚焦社会层面的公共秩序、算法偏见治理，更细化到微观层面的公民人格尊严、特殊群体权益保护，并将可持续发展纳入伦理考量范畴。
《人工智能应用伦理安全指引1.0》聚焦人工智能应用中的伦理安全问题，强调“在开展人工智能应用活动时，应将伦理安全要求贯穿全过程，从安全影响角度出发，妥善处理人工智能与人、社会、自然之间的相互关系，以造福人类、服务社会和可持续发展为导向，推动人工智能朝着有益、安全、公平方向健康有序发展，避免不合理的人工智能技术路线选择与盲目应用，保障人工智能始终服务于增进人类共同福祉。”
中国网络空间安全协会人工智能治理专业委员会成员王欣认为，人工智能在过去三五年左右的时间里发展非常迅速，但同时也面临很大的安全挑战。比如，其中涉及的偏见问题、伦理道德问题等。具体来看，现在很多家长在用AI教小朋友学习，但AI生成的内容中，有一些可能是不良内容，反而会带来很多负面作用。因此，人工智能的伦理安全至关重要。
《人工智能应用伦理安全指引1.0》明确伦理安全的原则包括增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信等多个方面，并从人工智能应用开发、服务提供和应用使用等角度明确了具体细则，促进人工智能应用在规范有序、安全可控的轨道上健康发展。
中国政法大学人工智能法研究院院长张凌寒：实际上，人工智能技术和产品应用的开发者、部署者和使用者都需要一个明确的导向性的指引。能使得整个人工智能安全生态，包括人工智能技术产品的开发部署行为都在伦理的框架范围之内，去贯彻我们国家一直以来倡导的以人为本、智能向善这样一个持续性的理念。这次发布的《人工智能应用伦理安全指引1.0》，填补了从原则规则到具体场景之间的这样一些规则细化的空白，可以说是我们国家人工智能安全治理体系的一个重要板块。
来源：央视新闻微信公众号、中国青年报客户端
编辑：王红岩
审核：郭 莹
往期推荐
1
2
3
4
