OpenAI 呼吁成立AI安全研究所,以保障青少年AI安全

关键信息：

2026年6月2日G7峰会前发布9条安全原则国际AI安全研究所

1、G7峰会前发布青少年AI安全倡议

文章于2026年6月2日发布，提出AI可以帮助年轻人理解概念、学习语言、准备面试、发展创造力和学习技能，但前提是工具使用要安全、适龄，并支持健康发展。

文章提出，相关责任不能主要落在家长和年轻人身上。企业需要在产品默认设置中加入保护措施，同时向家庭提供工具和信息，帮助其指导孩子使用AI。

2、倡议核心是建立持续运作的AI安全研究所

G7领导人峰会将于本月晚些时候在法国埃维昂举行，青少年AI安全会成为会议议题之一。该公司将参与讨论更高行业标准、跨部门合作和国际青少年安全研究所设立问题。

文章提出，该机构可以是新的国际研究所，也可以由现有或新设的国家AI研究机构承担全球任务。它的工作重点是共享研究、证据和指南，让政府、研究者、民间组织和企业保持协作。

3、文章提出9条青少年AI安全原则

文章列出9条原则，涵盖未成年人识别、适龄保护、年度风险与收益评估、家长控制、透明安全政策、严重安全事件处置、未成年人个人信息保护、AI素养和独立审计。

文章还介绍，ChatGPT已加强18岁以下用户保护，推出家长控制、主动通知和年龄预测系统；当年龄无法确认时，产品会默认采用更强保护设置。

1、青少年AI安全正在变成国际公共议题

该公司选择在G7峰会前提出倡议，议题对象已经超出单一产品或单一学校。年龄识别、内容保护、危机处置、数据使用和家长告知，需要在跨国平台、监管机构和学校之间形成共同要求。

学校需要产品准入、学生账号、教师介入、家长授权和异常处置流程同时到位。只有把这些环节写进采购、试点和课堂使用方案，AI工具才能进入稳定的教育场景。

2、安全框架同时看风险和机会

这组原则把风险评估和正向收益评估并列：企业既要提前处理自伤、剥削、诱导、性内容和暴力内容等高风险互动，也要评估AI是否支持学习、创造、技能发展和机会获得。

学校引入AI时，评价指标不能只看账号数量和活跃度。学习质量、教师介入、学生求助、隐私保护和内容适龄情况，都应进入试点评估和供应商复盘。

3、家长控制要变成可使用的工具

文章明确提出，父母和监护人应获得易用控制工具，用于管理记忆、数据使用和时间限制。平台还要主动告知这些工具的存在和用法，不能让家长自行摸索。

这给学校发放AI账号提出了更具体的要求：家长告知、授权流程、使用说明、数据说明和时间管理需要一起设计，教师也要知道哪些异常情形需要联系家长或专业支持人员。

4、AI素养要覆盖判断、核验与求助

文章把AI素养列入安全框架，内容包括机会、限制、批判性思维和负责任使用。学生既要知道AI可以帮助写作、编程、研究和求职，也要学会核验输出、保护个人信息、识别不适当内容。

这类素养课程应服务真实学习任务，而不是停留在功能演示。学生需要在具体任务中练习提问、判断、引用、核验和求助，教师需要把这些能力转化为可观察的课堂表现。

1、识别未成年人并提供适龄保护

企业应当了解用户是否为未成年人，并采取与其年龄相符的保护措施。

2、定期评估风险和益处

企业应定期评估人工智能对青少年带来的风险和益处，并在伤害发生之前采取措施应对。

3、提供便捷的家长控制工具

家长和监护人应拥有便捷易用的操控工具，以便引导孩子的使用体验，同时培养孩子与其年龄相符的独立性。

4、向家庭提供清晰信息

家庭理应获得清晰易懂的信息，了解企业如何保护年轻用户，并了解人工智能对青少年使用的益处和风险。

5、明确严重安全问题处置规程

公司应制定明确的规程来应对严重的安全问题，包括自残、剥削、诱骗、性剥削内容以及其他高风险互动。

6、支持学习、发展和现实关系

青少年使用的AI系统应该旨在支持他们的学习、发展和现实人际关系，避免取代这些关系与发展过程。

7、保护未成年人个人信息

未成年人的个人信息应当受到保护。

8、同时促进机会、素养和保护

青少年安全框架应促进机会、素养和保护。

9、建立强有力的问责机制

强有力的问责机制，包括独立审计，对于确保这些保护措施切实有效至关重要。

1、学校接入AI前先完成未成年人保护清单

学校和区域发放AI工具前，应先明确未成年人保护清单：谁可以使用、如何确认年龄、默认关闭哪些功能、哪些任务必须教师在场、遇到自伤或剥削风险时由谁接手。清单应成为采购和试点前置条件。

2、家长告知和教师介入要写进流程

家长控制功能只有被理解和经常使用，才能发挥作用。学校需要把授权、告知、使用说明、时间管理和数据处理写进家校沟通流程；教师也要知道哪些场景适合AI辅助，哪些任务需要独立完成或线下支持。

3、AI素养课要同时培养机会意识和安全能力

课程设计可围绕真实学习任务展开，让学生在写作、研究、语言练习、编程和项目探究中学习AI使用。每个任务都要配套核验方法、引用规范、个人信息保护、求助渠道和反思记录，避免把AI素养课做成按钮说明书。