乐于分享
好东西不私藏

AI辅导工具进校之前,要过哪几道合规关

AI辅导工具进校之前,要过哪几道合规关
XIYIN COMPLIANCE GUIDE

理解因果,守护智能未来

教育类AI产品面对的是未成年人,要进学校系统,还要过教育主管部门审核。算法备案只是其中一道关,教育App备案、教育大模型安全审核和未成年人保护机制互相不替代。

最近接了几个教育AI产品的咨询,情况挺像。团队做了一个AI口语陪练或者作业批改工具,算法备案已经在办了,觉得合规这块差不多了。等到要进学校或者上应用商店,才发现还缺别的手续。

教育类产品和普通AI工具不一样。它面对的是未成年人,要进学校系统,还要过教育主管部门的审核。算法备案只是其中一道关,另外还有教育App备案、教育大模型安全审核和未成年人保护机制。这几件事互相不替代,缺了哪一样产品都没法正常进校。

01 / XIYIN GUIDE

教育App备案是进校的前提

只要产品面向教职工、学生或者家长,以教育学习为主要场景,就要做教育移动互联网应用程序备案。这个备案由教育部教育技术与资源发展中心负责,通过国家数字教育资源公共服务体系提交。

做教育App备案有两个前提。ICP备案要先做完。网络安全等级保护定级备案也要有。两样都缺,入口都进不去。

流程本身不复杂。单位在系统里注册,提交申请,省级教育行政部门核验,通过以后发放备案号,格式是教APP备加上一串数字。备案号要在App里标注出来。

关键的一点在这里。学校选用教育App的时候,系统设定只能从已经备案的产品里选。没有备案的教育App原则上不允许进校。很多团队等到学校采购时才知道这个要求,临时补备案又要等ICP和等保,时间就拖过去了。

审核的时候,教育部门会重点看三件事。广告和游戏链接不能植入,用户信息收集要合规,内容审核机制要写清楚。这三样任何一样出问题,备案都过不了。

AI教育产品三道合规关

02 / XIYIN GUIDE

算法备案和生成式AI登记仍然要做

教育App备案管的是应用能不能进校。算法备案和生成式AI登记管的是AI能力本身合不合规。这两套不冲突,该做的都要做。

如果产品自己训练模型或者做微调,面向境内公众提供生成内容,需要走生成式人工智能服务备案。如果只是调用已经备案的第三方模型API,做了一个口语陪练或者作文批改工具,通常由地方网信办开展应用登记。

教育场景的备案审查有几个额外的关注点。训练数据或者知识库的来源合不合法,学生作业、试卷、教材这些内容有没有授权。输出内容的价值观导向对不对,会不会出现应试技巧之外的不当引导。产品受众包含未成年人的,要有防止未成年人沉迷的机制,包括使用时长限制、定期现实提醒和监护人控制功能。

算法备案材料里有一项是未成年人内容保护规则。教育产品这一项不能写空话,要具体写清楚年龄分级怎么做、敏感内容怎么拦截、家长怎么查看使用记录。

03 / XIYIN GUIDE

未成年人保护有几条硬线

2026年7月15日施行的《人工智能拟人化互动服务管理暂行办法》,对教育产品影响很大。很多AI口语陪练、AI辅导老师、学习伙伴都属于拟人化互动服务,里面有几条规定直接决定产品能不能做。

第一条硬线,不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。做AI学习伙伴可以,做AI虚拟男朋友或者虚拟家人给未成年人用就不行。

第二条,向不满十四周岁未成年人提供拟人化互动服务的,应当取得父母或者其他监护人的同意。注册环节就要设计监护人验证流程,不能靠用户自己勾选年龄。

第三条,提供者应当建立未成年人模式,提供模式切换、定期现实提醒和使用时长限制。这些功能要在产品设计阶段就做进去,事后补很容易被认定为形式化。

还有数据层面的要求。面向未成年人的产品要遵循数据最小化原则,能不收集的信息就不收集。学生的面部表情、课堂微表情这些生物特征信息,不能用来做所谓的专注度评分。个人信息保护合规审计要定期做,教育部门和网信部门都会查。

教育App备案流程

04 / XIYIN GUIDE

教育大模型安全审核机制正在建立

教育部等五部门4月印发的《人工智能+教育行动计划》里专门写了一条,深化建立教育大模型安全审核机制,确保生成内容积极健康、向上向善。同时要求建立人工智能教育应用的安全测评标准,一体保障模型算法、数据资源、基础设施和应用系统安全。

这个机制目前还在建设中。各地执行力度不一样。北京已经公布了教育App白名单445项,进校产品要从白名单里选。其他省市也在推进类似的审核和备案工作。

对企业来说,现在能做的是提前按照教育场景的要求准备材料。训练数据或者知识库的来源说明要留好,生成内容的价值观审核要有记录,教师人工复核环节要写进流程。教育部门要求提交安全测评材料的时候,这些东西能直接拿出来,不用临时补。

05 / XIYIN GUIDE

开学季前可以先做的三件事

第一件,确认你的产品算不算教育App。只要主要场景是教育学习,面向学生、家长或者教职工,就算。算的话,先查ICP备案和等保定级备案做了没有,这两个是教育App备案的前提。

第二件,梳理产品里的AI能力。底层模型是自研还是调用第三方,有没有备案号,应用登记做了没有。面向未成年人的功能有没有防沉迷和监护人同意机制,虚拟亲密关系的功能有没有砍掉。

第三件,准备教育场景的特殊材料。知识库数据来源说明、内容审核记录、未成年人保护规则、教师人工复核流程,这些东西整理成同一套文档。教育部门审核或者学校尽调的时候,一次交清楚。

教育AI产品的合规确实比普通工具多几道关。好处是这些关一旦过了,进校的门槛也就变成了你的壁垒。开学季是产品集中上线的时间,早一点把手续理顺,后面的节奏会稳很多。

开学季前理顺合规

教育AI产品的合规比普通工具多几道关。ICP和等保先做完,教育App备案和算法登记同步推进,未成年人保护机制在产品设计阶段就落地。手续理顺了,进校的门槛也就变成了你的壁垒。

AI COMPLIANCE REVIEW

添加微信咨询

准备上线或申报时,可以扫码发送项目信息

请准备:产品功能、服务对象

底层模型、接入方式、上线时间

扫码备注「教育合规」

ABOUT XIYIN

关于析因

析因人工智能科技有限公司

专注于AI算法合规领域,为大模型及AI产品提供从合规诊断到备案落地的全流程服务。团队由资深合规实操人员组成,熟悉网信办备案流程与材料标准,已帮助多家企业完成算法备案、大模型备案及安全评估。

06 / XIYIN GUIDE

主要依据

教育部等五部门关于印发人工智能+教育行动计划的通知

教育移动互联网应用程序备案管理

人工智能拟人化互动服务管理暂行办法

生成式人工智能服务管理暂行办法

本文根据可查资料撰写,用于一般信息交流,不构成针对具体项目的法律意见。各地教育App备案和教育大模型审核要求存在差异,企业应以注册地教育行政部门和网信部门的正式通知为准。

析因AI | XIYIN AI

AI SAFETY · ALGORITHM COMPLIANCE