一家企业准备上线AI客服系统，产品部门认为只是提升响应效率。

一家教育公司准备用AI系统评估学生学习状态，业务部门认为只是辅助教学。

一家医疗科技公司做AI辅助诊断，研发部门认为只是算法模型优化。

一家营销公司做AI内容生成和用户画像，销售部门认为只是精准投放。

一家机器人公司做具备自主决策能力的巡检设备，工程团队认为只是智能硬件升级。

这些项目过去通常会被放进数据合规、网络安全、算法备案、客户合同、用户协议、隐私政策的审查框架里。

这些当然要审。

但现在企业还要回答一个更前置的问题：这个AI项目是否可能影响人的尊严、公共秩序、生命健康、生态环境、可持续发展，是否存在科技伦理风险。

人工智能科技伦理审查，不是给AI项目再加一个抽象标签，也不是让法务在合同里多写几句免责声明。

它要求企业在项目立项、研发、测试、试点、上线和重大变更阶段，对AI技术可能造成的人身、心理、社会、决策、公平、隐私和可控风险进行正式识别和评估，并根据项目风险程度形成相应审查结论。

企业不能再把AI伦理理解为“研发人员注意一点”“产品上线时写个免责声明”“客户自己使用自己负责”。

对于部分高风险AI项目，如果没有经过必要伦理识别和审查，后续可能影响项目立项、科研合作、产品试点、政企客户采购、融资和并购尽调、监管问询，以及事故发生后的责任判断。

一、为什么企业现在要重视AI伦理审查

（一）伦理审查不是高校和科研机构的内部事项

很多企业容易有一个误解：科技伦理审查主要是高校、科研院所、医院做科研项目时才需要考虑，企业做的是商业产品，不属于这个范围。

这个理解已经不稳妥。

人工智能科技伦理审查的责任主体并不限于高校和科研机构。企业只要从事可能带来科技伦理风险挑战的人工智能科学研究、技术开发等活动，就不能当然排除适用。

也就是说，判断标准不是“你是不是科研机构”，而是“你做的AI活动是否可能带来科技伦理风险”。

AI企业、医疗健康企业、教育科技企业、智能硬件企业、金融科技企业、内容平台、机器人企业、自动化决策系统提供商，都应建立内部识别机制。

尤其是那些以“算法模型”“智能系统”“自动化工具”“机器人”“数字人”“智能评估”“智能推荐”“智能决策”为核心能力的企业，不能只把伦理审查看成政策倡导。

它会逐渐进入企业项目管理、客户采购、投融资尽调、政府项目申报和监管问询的实际清单。

（二）它管的不是已经上线的产品，而是更早的科技活动

AI伦理审查关注的不是产品上线后的最后一步，而是人工智能科学研究、技术开发等科技活动本身。

这意味着，伦理审查不应放在产品发布会前、合同签署前、客户验收前，临时让法务补一份材料。

它应当前移到项目立项阶段、模型研发阶段、数据准备阶段、测试评估阶段、产品试点阶段、对外合作阶段、功能重大变更阶段。

企业如果等产品已经上线、客户已经使用、数据已经收集、模型已经投入生产环境后才考虑伦理审查，往往已经太晚。

比如，教育企业已经用AI系统对学生进行学习能力、注意力、行为倾向分析，后续再发现数据采集、评价维度、人工干预、家长告知都不充分，整改难度会很大。

再比如，医疗科技企业已经将AI辅助诊断工具提供给医院试点，后续再发现训练数据代表性不足、误判责任不清、医生复核机制不足，就不只是补合同的问题。

伦理审查越靠后，越容易变成事故后的补救。

真正有效的伦理审查，应当在项目方向还可以调整、数据方案还可以修改、模型能力还没有固化、客户承诺还没有写死时介入。

（三）伦理审查和算法备案、生成式AI备案、数据合规不是替代关系

企业还容易出现第二个误解：我们已经做了算法备案，已经审了个人信息保护，已经做了生成式AI服务相关合规，所以不需要再看伦理审查。

这也不准确。

算法备案、深度合成合规、生成式AI服务管理、AIGC标识、个人信息保护、数据安全，更多关注特定服务类型、信息内容、算法机制、数据处理、用户权益和监管程序。

科技伦理审查关注的是人工智能科技活动本身是否可能带来伦理风险，包括人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等。

两者不是谁替代谁，而是从不同角度审同一个AI项目。

同一个AI客服项目，数据合规要看用户个人信息如何收集、使用、保存、删除。

生成式AI合规要看是否面向公众提供生成式服务、训练数据和输出内容是否合法、是否设置投诉机制。

伦理审查则要进一步问：这个AI客服是否让用户误以为在与真人沟通，是否在金融、医疗、教育等高风险场景中替代人工判断，是否可能诱导用户作出重大决策，是否有人工转接和异常处置机制。

同一个AI项目，可能同时需要数据合规、算法合规、内容合规、合同合规和伦理审查。

企业不能用其中一个替代另一个。

（四）伦理审查会倒逼企业建立AI项目治理流程

过去，很多企业AI项目的推进路径是：研发和产品先做，业务先找客户，销售先承诺效果，法务最后看协议、隐私政策、用户条款。

这种流程对普通软件项目已经有风险，对高风险AI项目更不够。

伦理审查要求企业在项目早期就说明研究背景、目的和计划，算法机制机理，数据来源和获取方式，测试评估方法，拟形成的软硬件产品，预期应用领域和适用人群，伦理风险评估，风险防控和应急预案。

这些材料不是法务一个部门能补出来的。

研发要解释算法、模型、系统机制。

产品要解释应用场景、用户对象、功能边界。

数据团队要解释数据来源、样本分布、数据质量、偏差风险。

安全团队要解释系统控制、日志、追溯、应急。

业务团队要解释客户场景、使用方式、试点范围。

法务合规要把这些信息转化为风险判断、合同条款、审查材料和责任分配。

因此，AI伦理审查真正倒逼的是企业治理流程，而不是多盖一个章。

二、哪些AI项目最可能触发伦理审查

（一）不是所有AI项目都需要同等强度审查

企业不能把所有AI项目都无限拔高。

内部普通办公助手、文案润色工具、低风险知识库问答、一般代码辅助、会议纪要整理，在没有触及敏感数据、重大权益、自动化决策、公众传播和特殊人群的情况下，通常不应被当作重大伦理项目处理。

否则流程会压垮业务。

但另一个极端更危险：把所有AI项目都当成普通IT项目，完全不做伦理识别。

企业应建立分级机制。

低风险项目走简化流程。

一般风险项目做伦理风险识别。

涉及生命健康、心理情绪、社会动员、高度自主决策、人机融合、公共安全和重大权益的项目，应进入正式伦理审查或专家复核流程。

关键不是“项目里有没有AI”，而是“AI在项目中影响什么”。

如果AI只是帮助员工整理会议纪要，风险相对有限。

如果AI用于判断一个人是否适合贷款、是否适合录用、是否存在疾病风险、是否需要心理干预、是否应被重点监管，风险就完全不同。

（二）影响心理、情绪和行为的AI系统，要重点识别

第一类高风险项目，是影响人的心理、情绪和行为的AI系统。

典型场景包括AI心理陪伴、情绪识别、智能心理干预、儿童陪伴机器人、老年人陪护AI、员工心理状态监测、用户行为诱导系统、沉浸式虚拟人互动系统。

这类项目的风险不在于“AI能不能回答问题”，而在于它是否可能影响人的判断、情绪依赖、心理状态和现实行为。

一个普通聊天机器人，如果面向成年人提供娱乐互动，风险相对有限。

但如果它面向未成年人提供情感陪伴，长期模拟亲密关系，诱导用户持续付费，或者对用户心理状态作出判断，风险就明显提高。

企业应重点审查五个问题。

是否面向未成年人、老年人、患者、心理脆弱人群等特殊群体。

是否存在情感诱导、过度依赖、心理误导。

是否明确告知用户AI身份和能力边界。

是否设置人工干预和紧急求助机制。

是否避免将AI输出包装成专业诊疗、心理咨询或权威判断。

这类项目不能只靠用户协议里写一句“AI回答仅供参考”。

如果产品设计本身鼓励用户对AI产生依赖，或者让AI介入心理危机、情绪干预、亲密陪伴，企业就要用更高标准审查。

（三）涉及生命健康和医疗健康的AI系统，要前置审查

第二类高风险项目，是涉及生命健康和医疗健康的AI系统。

典型场景包括AI辅助诊断、医学影像识别、用药推荐、健康风险评估、慢病管理模型、智能问诊、手术辅助系统、医疗机器人、公共卫生预测系统。

这类项目不只是数据合规问题，更可能涉及生命健康风险和专业责任边界。

企业要先区分：AI只是信息检索工具、健康科普工具、医生辅助工具，还是直接参与诊断、治疗、用药和决策。

不同定位，合规要求和伦理风险完全不同。

企业应重点审查：

是否具备相应医疗器械、医疗服务、数据处理资质要求。

是否明确AI只是辅助工具还是决策系统。

是否设置专业人员复核。

模型误判后如何处理。

训练数据是否具有代表性。

是否对不同年龄、性别、地域、疾病类型、设备来源的人群存在偏差。

是否设置持续监测和应急预案。

医疗健康场景中，准确率不是唯一指标。

少数群体误判、极端病例漏诊、医生过度依赖、患者误解AI建议，都可能产生严重后果。

所以，医疗AI不能只看模型指标，还要看临床场景、使用边界和责任链。

（四）具有舆论社会动员和社会意识引导能力的AI系统，要审传播风险

第三类高风险项目，是具有舆论社会动员和社会意识引导能力的AI系统。

典型场景包括内容推荐算法、舆情分析和引导工具、AI自动生成评论、文章、短视频，智能营销投放系统，虚拟主播矩阵，社交平台内容分发系统，面向公众的信息生成与传播系统。

这类项目的风险不是单个内容是否违法，而是系统是否具备规模化影响公众认知、情绪和行为的能力。

过去企业可能只审单篇文案、单条视频、单个账号是否违规。

但AI系统可以大规模生成、分发、优化、测试和迭代内容，影响范围远大于人工运营。

企业应重点审查：

是否具有大规模内容生成能力。

是否面向公众传播。

是否可能影响公共议题认知。

是否存在操纵舆论、制造虚假互动、诱导用户行为。

是否设置AIGC标识。

是否有内容安全和人工审核机制。

是否具备投诉、纠错、下架和追溯机制。

如果一个营销系统可以自动生成大量评论、自动投放到社交平台、自动根据用户画像调整话术，就不能只说这是“智能营销工具”。

它可能涉及虚假互动、误导宣传、用户操纵和平台规则风险。

（五）高度自主的自动化决策系统，要审公平和可控

第四类高风险项目，是高度自主的自动化决策系统。

典型场景包括自动授信、自动风控、招聘筛选、绩效评分、保险核保、教育评价、公共资源分配、无人驾驶、无人机巡检、工业机器人、智能安防、自动交易系统。

这类系统的风险在于，AI不只是给建议，而是可能直接或间接影响人的机会、权益、安全和资源分配。

招聘筛选系统可能决定候选人有没有面试机会。

自动风控系统可能决定用户能否获得贷款。

教育评价系统可能影响学生分层、资源分配和升学判断。

绩效评分系统可能影响员工奖金、晋升甚至解雇。

自动交易系统可能影响资产安全和市场风险。

企业应重点审查：

是否存在算法歧视。

是否允许人工干预。

是否可解释。

是否有申诉渠道。

是否能追溯决策过程。

是否对不同人群产生不公平影响。

是否存在高度自主执行和安全风险。

自动化决策系统不能只看效率提升。

越是替代人工判断，越要保留人工复核、申诉、解释和日志机制。

（六）人机融合、机器人和智能硬件系统，要审失控和安全风险

第五类高风险项目，是人机融合、机器人和智能硬件系统。

典型场景包括脑机接口、外骨骼机器人、智能康复设备、陪护机器人、巡检机器人、配送机器人、具身智能设备、工业协作机器人、自动驾驶系统、无人系统。

这类项目涉及软件、硬件、人体、安全和环境交互，伦理审查不能只看算法。

一个文本模型出错，可能只是回答错误。

一个工业协作机器人出错，可能造成财产损失和人身损害。

一个陪护机器人出错，可能影响老年人、儿童或患者安全。

一个无人巡检设备出错，可能影响公共空间和基础设施。

企业应重点审查：

人是否仍有控制权。

设备失控后如何停止。

是否有紧急中断机制。

是否有极端环境测试。

是否明确责任主体。

是否可能对生命健康、财产安全或公共安全造成风险。

机器人和智能硬件项目的伦理风险，往往和产品安全、质量责任、侵权责任叠加。

不能只由算法工程师判断能不能上线。

三、企业不能把伦理审查理解成“法务多看一遍合同”

（一）伦理审查审的是AI项目本身，不只是合同文本

合同审查主要解决权利义务分配。

谁提供数据。

谁负责开发。

谁负责验收。

谁承担违约责任。

谁承担侵权投诉。

谁负责保密。

谁负责个人信息处理。

这些当然重要。

但伦理审查要解决的是另一个层面的问题：项目本身是否值得做，能不能这样做，风险是否可控，受益和风险是否合理。

一个合同写得再完整，如果项目本身存在严重伦理风险，也不能仅靠免责条款解决。

例如，企业开发一个面向未成年人的情绪依赖型AI陪伴产品，合同中写明用户自行承担风险，并不能消除对未成年人心理影响的伦理问题。

又如，企业开发一个自动筛选求职者的系统，合同中写明客户负责最终录用决定，也不能消除算法偏见和不公平筛选风险。

法务审合同，只能解决部分责任分配问题。

伦理审查要追问项目本身是否应当按原方案推进。

（二）伦理审查要看数据、算法、模型、系统和应用场景

伦理审查至少要看四层。

第一，数据层面。

数据来源是否合法，训练数据是否有偏差，是否包含敏感个人信息，是否涉及脆弱群体，是否存在不公平样本分布。

如果招聘模型主要用历史男性员工数据训练，可能对女性候选人不公平。

如果医疗模型训练样本集中于某地区、某年龄段，可能对其他人群误判。

第二，算法和模型层面。

设计是否合理，是否可解释，是否可控，是否具备鲁棒性，是否能应对极端情况和干扰因素。

如果模型只能给结论，不能说明依据，在医疗、金融、教育、招聘等场景中就会影响用户申诉和人工复核。

第三，系统层面。

是否有日志，是否可追溯，是否有人类干预，是否有异常处理机制，是否有持续监测方案。

伦理风险发生后，企业至少要能说清楚系统为什么这样输出、谁使用了系统、是否有人复核、是否触发过预警。

第四，场景层面。

是否用于高风险人群，是否影响重大权益，是否用于公共传播，是否用于自动决策，是否可能影响生命健康或公共安全。

同一个模型，用于内部知识问答和用于医疗建议，风险不是一个等级。

（三）伦理审查不是替业务背书，而是识别不能直接推进的项目

企业要接受一个现实：伦理审查结论可能不是简单通过。

可能要求修改方案。

补充风险控制。

限制适用人群。

缩小试点范围。

增加人工复核。

调整数据处理方式。

加强告知和透明度。

设置应急预案。

暂停某些功能。

要求外部专家复核。

伦理审查的价值不是让所有AI项目都顺利过会，而是提前发现那些不应按原方案推进的项目。

如果审查机制永远只给“通过”，企业其实没有治理。

真正有效的审查应当能对业务说“不”，至少能说“这个项目可以做，但必须改”。

四、企业应如何建立AI伦理审查内部机制

（一）先建立AI项目分级识别机制

企业不可能对所有AI项目都开同样规格的审查会。

更合理的是建立分级识别机制。

可以先把AI项目分为三类。

第一类，低风险项目。

例如内部文案润色、会议纪要整理、非敏感知识库问答、普通代码辅助。这类项目可以纳入简化流程。

第二类，需一般伦理识别项目。

例如客户服务、营销推荐、企业内部管理辅助、一般数据分析、普通AIGC内容生成。这类项目要做风险问卷和合规确认。

第三类，需正式伦理审查或专家复核项目。

涉及生命健康、心理情绪、社会动员、高度自主决策、人机融合、机器人、公共安全、重大权益、脆弱群体的项目，应进入重点流程。

企业要避免两个极端。

一是所有项目都走最高级别审查，导致流程无法运行。

二是所有项目都由业务自行判断，完全没有识别机制。

（二）在立项阶段设置伦理风险问卷

伦理识别要放在立项阶段。

项目一旦立项、预算通过、客户签约、研发投入，后续再要求大幅调整，成本会非常高。

伦理风险问卷至少要包括：

项目是否面向自然人。

是否涉及未成年人、老年人、患者等脆弱群体。

是否影响就业、教育、金融、医疗、公共服务等重大权益。

是否有自动决策。

是否允许人工干预。

是否影响心理情绪和行为选择。

是否面向公众传播内容。

是否涉及个人信息、敏感个人信息、重要数据。

是否具备日志和可追溯机制。

是否有应急处置方案。

这些问题不需要一开始写成长篇报告，但必须让项目团队在立项时回答。

如果答案显示风险较高，就不能继续按普通项目推进。

（三）明确AI伦理审查参与部门

AI伦理审查不能只由法务部门承担。

至少应包括研发负责人、产品负责人、数据负责人、安全负责人、业务负责人、法务合规。

对于高风险项目，还应引入伦理或外部专家，必要时包括行业专家、用户代表或独立顾问。

研发负责说明模型和系统能力。

产品负责说明功能边界和用户体验。

数据团队负责说明数据来源、质量和偏差。

安全团队负责说明访问控制、日志和应急。

业务团队负责说明客户场景和商业用途。

法务合规负责说明规则适用、责任分配和审查结论。

外部专家负责提供专业判断，尤其是在医疗、心理、教育、金融、机器人、人机交互等领域。

如果企业把伦理审查全部交给法务，法务很容易被迫在不了解技术和场景的情况下背书。

这不是审查，而是甩锅。

（四）把伦理审查结论嵌入项目节点

伦理审查不能做成一次性文件。

它要嵌入项目节点。

立项前完成初步伦理识别。

研发前完成数据和算法风险审查。

测试前完成风险评估和测试方案确认。

上线前完成审查结论和整改确认。

上线后开展跟踪审查。

功能重大变化后重新识别风险。

发生伦理风险事件后启动应急审查或重新审查。

尤其是AI系统不是静态产品。

模型会迭代。

数据会变化。

客户场景会扩大。

用户群体会变化。

系统能力会增强。

原来低风险的项目，可能因为客户使用方式改变而变成高风险。

例如，原本面向内部员工的知识问答系统，后来被客户用于对外客服。

原本辅助老师备课的教育AI，后来被用于学生能力评估。

原本用于产品巡检提示的机器人，后来被赋予自主处置权限。

这些变化都应重新识别风险。

（五）形成可留痕的审查材料

企业至少应形成一套可留痕材料。

AI项目基本情况表。

数据来源与使用说明。

算法和模型机制说明。

适用场景和适用人群说明。

伦理风险评估表。

公平性和偏见风险说明。

可解释性和透明度说明。

人工干预和控制机制说明。

日志和追溯机制说明。

隐私保护措施说明。

风险防控和应急预案。

审查会议记录。

审查结论和整改记录。

跟踪审查记录。

这些材料的意义不只是应付检查。

它们会在客户采购、投融资尽调、合作谈判、监管问询和事故处理时发挥作用。

如果企业无法拿出这些材料，很难证明自己已经做过必要风险识别和控制。

五、企业法务和合规应重点关注五个风险

（一）项目明明高风险，却被包装成普通技术开发

第一个风险，是高风险项目被包装成普通技术开发。

业务部门可能认为“只是一个模型”。

研发部门可能认为“只是提高效率”。

销售部门可能认为“只是给客户做定制”。

但只要项目可能影响人的重大权益、公共传播、生命健康、心理行为或自动化决策，就不能只按普通技术开发处理。

法务合规要警惕项目名称的包装。

“智能评估”可能是自动化决策。

“用户画像”可能影响精准诱导。

“智能客服”可能承担专业咨询。

“AI陪伴”可能影响心理依赖。

“智能硬件升级”可能涉及人机交互和安全控制。

不能只看项目名称，要看实际功能、使用对象和影响后果。

（二）客户项目中AI伦理责任没有写清

第二个风险，是客户项目中AI伦理责任没有写清。

AI企业为客户开发高风险AI系统时，双方应写清：

谁负责发起伦理审查。

谁提供数据来源说明。

谁负责场景合法性。

谁负责用户告知。

谁负责上线后监测。

谁负责风险事件处置。

谁承担专家复核或第三方评估费用。

谁决定最终上线。

谁负责客户现场使用和人工复核。

谁保存日志和审查材料。

不能只写“乙方负责技术开发，甲方负责使用”。

这句话太粗。

如果系统本身由AI企业设计，模型和风险控制由AI企业决定，AI企业不能完全推给客户。

如果客户决定使用场景、终端用户、数据来源和上线方式，客户也不能把全部伦理风险推给供应商。

合同应按控制范围分责。

（三）没有日志和可追溯机制

第三个风险，是没有日志和可追溯机制。

责任可追溯是AI伦理治理的重要要求。

如果企业没有日志，后续很难证明：

数据从哪里来。

模型怎么训练。

谁调整了参数。

系统为什么输出某个结果。

用户是否接受提示。

人工是否干预。

风险事件如何发生。

谁在什么时间使用了系统。

是否触发过异常提醒。

AI伦理审查会倒逼企业建立技术留痕机制。

法务合规要把日志、追溯、记录保存写进产品需求，而不是等事故发生后再找研发要数据。

没有留痕，责任边界就会模糊。

（四）公平性和偏见问题被忽视

第四个风险，是公平性和偏见问题被忽视。

很多企业只关注模型准确率，不关注对不同群体是否公平。

在招聘、金融、教育、医疗、保险、公共服务等场景中，数据偏差可能直接导致差别对待。

比如，招聘模型根据历史录用数据学习，如果历史数据本身存在性别、年龄、学历、地域偏差，模型可能复制甚至放大这些偏差。

金融风控模型如果对特定地区、职业、年龄群体产生系统性不利影响，也会引发公平性争议。

医疗模型如果训练数据缺少某类人群样本，可能导致误判。

企业应建立偏见识别和纠偏机制，而不是等用户投诉后再解释“模型没有恶意”。

算法没有主观恶意，不等于结果没有不公平。

（五）上线后不跟踪

第五个风险，是上线后不跟踪。

AI系统不是上线即结束。

模型效果会变化。

数据分布会变化。

用户行为会变化。

适用场景会扩大。

外部环境会变化。

客户可能将系统用于原本没有约定的场景。

用户可能用提示词绕过限制。

模型可能在新数据上表现下降。

因此，高风险AI项目应当持续监测伦理风险，并在重大变化时重新审查。

企业要建立上线后跟踪机制。

定期查看投诉、异常输出、用户反馈、偏见指标、误判案例、人工干预记录、系统日志和客户使用变化。

伦理审查如果只做一次，容易失效。

六、企业管理层应当怎么理解这件事

（一）伦理审查不是增加负担，而是降低项目失败和事故成本

很多AI项目出问题，不是因为没有创新，而是因为没有提前识别风险。

数据不能这样用。

模型不能这样决策。

系统不能完全自动。

用户不能不告知。

某些人群不能先试点。

某些场景不能直接上线。

如果这些问题在立项阶段发现，企业还有调整空间。

如果等到客户投诉、媒体报道、监管问询、用户受损后才发现，成本会成倍放大。

伦理审查的价值，是把高风险项目中的关键问题提前暴露出来。

它不是为了阻止创新，而是为了避免企业在错误路径上越走越远。

（二）AI伦理治理会成为客户和投资人尽调问题

政企客户可能会问：

你们AI系统是否做过伦理审查。

是否有委员会或审查机制。

是否有风险评估材料。

是否有日志和追溯机制。

是否有应急预案。

是否做过偏见和公平性评估。

是否设置人工干预。

是否有上线后监测记录。

投资人和并购方也会问：

核心AI产品是否涉及高风险应用。

是否存在未履行伦理审查义务。

是否存在算法歧视、隐私、自动决策、内容传播风险。

是否有历史投诉和整改记录。

是否有高风险客户项目。

是否有客户合同分责。

未来，AI伦理治理能力会成为企业可信度的一部分。

不是所有客户和投资人都会接受“我们内部注意过”的口头解释。

他们会要材料、制度、记录和整改证据。

（三）伦理审查应纳入AI治理体系

AI伦理审查不是孤立制度。

它应当与数据合规、个人信息保护、网络安全、算法备案、生成式AI服务管理、深度合成合规、AIGC标识、产品上线审查、客户合同审查、供应商审查、事故应急响应联动。

企业最终要建立的是AI治理闭环，而不是单独多一张表。

数据合规解决数据能不能用。

算法合规解决算法和服务是否符合监管要求。

内容合规解决输出和传播是否安全。

合同合规解决客户和供应商责任如何分配。

伦理审查解决项目本身是否有不应忽视的人、社会和公共利益风险。

这些机制合在一起，才是真正的AI治理。

七、企业做AI，不能只问“能不能实现”

过去，很多AI项目的第一问题是技术问题：模型能不能跑，效果能不能提升，客户愿不愿意买。

但现在，企业还必须问第二组问题。

这个项目会不会影响人的重大权益。

会不会影响心理、情绪、行为。

会不会影响公共传播和社会认知。

会不会形成不可控的自动化决策。

会不会对生命健康和安全造成风险。

会不会让企业在事故发生后说不清责任。

AI伦理审查的真正意义，不是要求企业少创新，而是要求企业在创新前先回答：这个AI项目对人、社会和公共利益意味着什么，风险是否可控，责任是否可追溯，用户是否有知情和干预能力。

企业做AI，不能只问能不能实现，也要问应不应该这样实现。

对于低风险项目，流程可以简化。

对于高风险项目，审查不能省略。

对于影响人的重大权益、心理情绪、生命健康、公共传播、自动化决策和人机融合的AI系统，企业不能只靠法务最后审一遍合同。

因为合同能分配责任，但不能替代项目判断。

真正成熟的AI企业，不是所有项目都能最快上线，而是知道哪些项目必须慢一点、审清楚、留好痕、控住风险后再上线。