上海徐汇:推动生成式AI行业筑牢网络安全防线

会议紧扣“扫黄打非”工作核心职责，聚焦内容安全根本要求，向企业全面解读《中华人民共和国网络安全法》《出版管理条例》《生成式人工智能服务管理暂行办法》等法律法规中的禁止性条款与监管要求，结合AI服务涉黄涉非风险隐患，以案释法明确合规底线。重点强调严禁利用生成式AI技术制作、复制、传播危害国家安全和利益、淫秽色情、破坏社会稳定等法律法规禁止的内容，明确企业作为内容安全第一责任人的主体责任，厘清新业态监管中的红线边界，督促企业将内容安全管理贯穿于研发、运营、服务全流程，从源头防范化解各类风险隐患。

交流座谈聚焦生成内容审核全链条管控，与企业深度研讨AI生成内容安全防控体系建设路径。围绕当前生成式AI领域涉黄涉非等有害内容生成传播的突出问题，区“扫黄打非”办公室指导企业健全“事前防范、事中监测、事后处置”全流程审核管控机制，要求企业完善训练数据合规审查、敏感内容识别模型迭代、违禁词库动态更新、人机协同复核等核心制度，重点强化对涉黄低俗等违规内容的智能拦截与精准处置能力；对企业在新型违规内容识别、算法安全防控等方面遇到的实际问题，也当场给予相应指导，推动企业补齐短板，实现生成内容全生命周期安全管理。

围绕举报投诉处置工作，区“扫黄打非”办公室提出明确规范要求，督促企业健全群众诉求闭环管理体系，要求企业服务平台设置便捷的投诉举报入口，公布统一的处理流程与反馈时限，建立涉黄涉非等有害内容相关的举报快速响应机制，严格落实“接诉即办、限时核查、从严处置、及时反馈”的全流程闭环管理要求。同时，明确企业需建立举报处置台账管理制度，定期梳理汇总高频举报问题与共性风险隐患，以溯源整改推动防控体系优化升级，切实保障群众诉求件件有回音、事事有着落，有效防范化解涉AI内容风险。