乐于分享
好东西不私藏

AI产品研究:AI产品类(模型、软件、服务类等)上市合规研究(二)

AI产品研究:AI产品类(模型、软件、服务类等)上市合规研究(二)

四、目前的法规要求及其行业监管水位梳理

下面是关于AI产品(或服务)涉及有关资质要求的规定:

 (一)《生成式人工智能服务管理暂行办法》:大模型服务备案(模型备案)

1、法规规定

      第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称生成式人工智能服务),适用本办法。

   国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定。

    行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定。

    第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

    第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的,提供者应当依法取得许可。

2、备案类型

   生成式人工智能服务备案工作。

3、备案后管理

   已上线的生成式人工智能应用或功能,应在显著位置或产品详情页面公示所使用已备案或登记生成式人工智能服务情况,注明模型名称、备案号或上线编号。

4、示例

  千问APP模型备案(生成式人工智能服务备案):

千问使用的模型如下:

模型名称:通义千问

备案单位:阿里巴巴达摩院(杭州)科技有限公司

模型备案编号:ZheJiang-TongYiQianWen-20230901

模型名称:通义万相

备案单位:上海魔搭科技有限公司

模型备案编号:Shanghai-TongYiWanXiang-202410090024

应用名称:通义

登记单位:上海智信普惠科技有限公司

上线编号:Shanghai-TongYi-20250512S0081

Deepseek模型备案(生成式人工智能服务备案):

模型名称:DeepseekChat 

备案号:Beijing-DeepseekChat-202404280016

(二)《互联网信息服务算法推荐管理规定》:算法备案

1、法规规定:

    第二十四条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。

算法推荐服务提供者的备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续。

算法推荐服务提供者终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并作出妥善安排。

    第二十五条 国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后,材料齐全的,应当在三十个工作日内予以备案,发放备案编号并进行公示;材料不齐全的,不予备案,并应当在三十个工作日内通知备案人并说明理由。

    第二十六条 完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

第二十七条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。

《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》,安全评估实际报送对象为「网信办+公安机关」(双报机制)。

2、备案类型

推荐算法备案工作。

3、备案后管理

应当按照国家有关规定开展安全评估。

4、示例

   千问APP模型备案(生成式人工智能服务备案):

   算法名称:达摩院交互式多能型合成算法

  算法备案号码:备案编号:网信算备 330110507206401230035

 5、特殊产品算法备案(《人工智能拟人化互动服务管理暂行办法》2026.07.15 实施)

  拟人化互动服务提供者:

   备案依据:《人工智能拟人化互动服务管理暂行办法》第二十六条拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验

实际产品上线审核:《人工智能拟人化互动服务管理暂行办法》第二十五条 互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任,核验提供拟人化互动服务应用程序相关安全评估、备案等情况;对违反国家有关规定的,应当及时采取不予上架、警示、暂停服务或者下架等处置措施

(三)《互联网信息服务深度合成管理规定》:深度合成算法备案

凡提供文字、图像、音频、视频、虚拟场景等深度合成功能的算法均需备案。

1、法规规定:

第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。

完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

2、备案类型

深度合成算法备案

3、备案后管理

应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

4、示例

百度文心一言:深度合成算法备案

百度文生图内容生成算法:网信算备110108645502801230019

(四)互联网信息服务备案

    该备案号表明相关互联网服务已在中国工业和信息化部完成合规备案,即网站和APP需要该备案。

1、法规规定:

《互联网信息服务管理办法》:

第三条 互联网信息服务分为经营性和非经营性两类。

经营性互联网信息服务,是指通过互联网向上网用户有偿提供信息或者网页制作等服务活动。

非经营性互联网信息服务,是指通过互联网向上网用户无偿提供具有公开性、共享性信息的服务活动。

第四条 国家对经营性互联网信息服务实行许可制度;对非经营性互联网信息服务实行备案制度。

未取得许可或者未履行备案手续的,不得从事互联网信息服务。

第八条 从事非经营性互联网信息服务,应当向省、自治区、直辖市电信管理机构或者国务院信息产业主管部门办理备案手续。办理备案时,应当提交下列材料:

()主办单位和网站负责人的基本情况;

()网站网址和服务项目;

()服务项目属于本办法第五条规定范围的,已取得有关主管部门的同意文件。

省、自治区、直辖市电信管理机构对备案材料齐全的,应当予以备案并编号。

2、备案类型

互联网信息服务备案

3、备案后管理

应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供信息链接。

4、示例

千问网页版:公示备案号:沪ICP2025116614-7

(五)其他类许可或备案

1、公安联网备案(网站 APP备案)

公安机关互联网安全备案(俗称网安备/公安备案),依据为《计算机信息网络国际联网安全保护管理办法》(公安部令第33号)及《互联网安全保护技术措施规定》(公安部令第82号)。

2、特殊行业许可或备案

该特殊行业行政许可或备案与AI产品所开展具体业务密切相关,如新闻 → 互联网新闻信息服务许可,出版 → 网络出版服务许可,视听 → 信息网络传播视听节目许可,虚拟偶像/角色扮演 → 网络文化经营许可,医疗 AI → NMPA /三类医疗器械,气象 AI → 气象局备案《人工智能气象应用服务办法》)。

五、AI产品的主要合规资质要求(现有法规要求总结对比)

根据现有法规规定,涉及AI产品上市提供服务的合规要求(AI梳理)如下:

监管维度
审核要项
法规依据
审核标准(通过条件)
所需材料/证明
主体资质
ICP备案/许可
《互联网信息服务管理办法》第4条;《电信条例》
经营性须持ICP许可证;非经营性须完成ICP备案
ICP备案截图/许可证扫描件
算法备案
《算法推荐管理规定》第24条
具有舆论属性或社会动员能力的算法须完成备案,取得"网信算备"编号
算法备案号(beian.cac.gov.cn可查验)
大模型备案
《生成式AI服务管理暂行办法》第17条
面向境内公众提供生成式AI服务须完成备案
大模型备案编号及批准文件
深度合成备案
《深度合成管理规定》第19条
提供深度合成服务须在10个工作日内备案
深度合成服务备案号
安全评估
《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》
上线前完成安全评估并向网信办+公安部报告
安全评估报告及受理回执
行业前置许可
各行业主管法规(如《网络出版服务管理规定》《互联网新闻信息服务管理规定》等)
涉及新闻/出版/视听/医疗/金融等须取得对应许可
行业许可证(如网络视听许可证、医疗器械注册证等)
内容安全
内容审核机制
《网络信息内容生态治理规定》;《生成式AI办法》第4/9条
建立健全内容审核制度,配备审核人员或技术手段
审核制度文档+技术方案说明
AIGC标识
《网络信息内容标识办法》(2025.9.1);GB   45438-2025
AI生成内容须同时添加显式标识(文字/图形)和隐式标识(元数据/水印)
标识方案说明+功能截图演示
深度合成标识
《深度合成管理规定》第16-17条
生成/编辑的人脸/语音内容须显著标识"深度合成"
产品内标识功能截图
违禁内容过滤
《生成式AI办法》第4条(社会主义核心价值观);《网络安全法》第47条
具备有效拦截违法违规内容的技术能力
内容安全方案+拦截率测试报告
未成年人保护
《未成年人网络保护条例》;《儿童个人信息网络保护规定》
提供青少年模式/时间管理/内容过滤;不得向未成年人推送不适内容
未成年人保护功能说明
数据合规
个人信息保护
《个人信息保护法》全文
告知+同意;最小必要;目的限制;安全保障
隐私政策+个保影响评估(PIA)报告
数据出境评估/备案
《数据出境安全评估办法》;《个人信息出境标准合同办法》;《促进和规范数据跨境流动规定》(2024.3.22)
向境外提供重要数据/大量个人信息须评估或备案
数据出境评估报告/标准合同备案证明
训练数据合规
《生成式AI办法》第7条
训练数据来源合法;不侵犯知识产权;不含违法信息
训练数据来源声明+合规审计报告
用户数据知情同意
《个保法》第13-17条;《APP个人信息保护管理暂行规定》
收集使用个人信息须明确告知并取得同意,不得强制授权
隐私弹窗截图+用户协议相关条款
算法治理
算法透明度
《算法推荐管理规定》第4/16条
向用户提供算法原理简要说明;标注算法推荐内容
算法说明页面/透明度报告
算法公平性
《算法推荐管理规定》第21条;《生成式AI办法》第4条
不得实施算法歧视(价格/就业/信贷等大数据杀熟)
反歧视测试报告/公平性评估
关闭推荐选项
《算法推荐管理规定》第17条
向用户提供便捷的关闭算法推荐服务选项
功能设置页截图
人工干预机制
《生成式AI办法》第14条
建立模型输出的人工审核和纠错机制
人工审核流程文档
用户权益
服务协议合规
《电子商务法》第33/34条;《网络交易监督管理办法》
服务协议不含霸王条款;格式条款须提示注意
用户协议全文(标注格式条款提示方式)
退款/售后政策
《消费者权益保护法》第25条
明确退款条件与流程;虚拟商品应有合理试用/退款机制
退款政策页面截图
投诉处理机制
《生成式AI办法》第15条;《消保法》第15条
公开投诉渠道,15个工作日内处理完毕
投诉渠道+处理流程文档
自动续费提醒
《网络交易监督管理办法》第18条
自动续费前5日以显著方式提醒消费者
续费提醒功能截图/短信模板
知识产权
训练数据版权
《著作权法》;《生成式AI办法》第7条
声明训练数据不侵犯他人知识产权;使用开放数据集或已获授权
版权声明/数据授权协议
生成内容权属
《著作权法》;平台服务协议
明确约定AI生成内容的知识产权归属(平台/用户/公共领域)
服务协议相关条款
侵权投诉机制
《电子商务法》第42-45条(通知-删除)
建立知识产权侵权投诉通道并及时处理
投诉通道入口截图+处理时效承诺