AI上线之前,必须先问:它会影响谁?ISO/IEC 42005:2025:AI系统影响评估指南

前几篇文章，我们讲了可信AI、AI管理体系、AI风险管理、AI系统框架、AI数据质量和AI治理。

这一篇继续向应用端推进：一个AI系统上线之前，到底要不要先评估它会影响谁、影响什么、影响多大？

答案是：必须要。

ISO/IEC 42005:2025《人工智能 AI系统影响评估》正是面向这一问题的国际标准。它不是单纯评价AI性能，也不是只看技术风险，而是关注AI系统及其可预见应用，可能对个人、群体、组织和社会产生的影响。

一句话：AI不是上线了再说，而是上线前就要评估影响。

一、为什么AI需要影响评估？

很多企业评估AI时，习惯只看三个问题：能不能用？准不准？省不省钱？

但AI进入真实业务后，影响远不止这些。它可能影响客户权益、员工评价、合同判断、资源分配、质量安全、隐私保护、公共服务、企业声誉和社会公平。

01 AI影响个人

AI可能影响一个人的机会、权益、评价和体验。

例如招聘筛选、客户评级、信用判断、投诉处理、服务推荐等场景。

02 AI影响组织

AI可能改变企业流程、岗位职责、决策方式、风险分布和责任边界。

例如合同审核、投标分析、质量管理、安全预警、财务风控等场景。

03 AI影响社会

AI可能影响公平、透明、信任、公共安全和社会接受度。

例如城市治理、公共服务、建筑安全、金融风控、医疗辅助等场景。

所以，AI评估不能只看系统内部指标，还要看外部影响。

二、ISO/IEC 42005 的核心定位

ISO/IEC 42005:2025 的核心，是为组织开展AI系统影响评估提供指南。

它关注的是：AI系统会影响谁；影响发生在哪些场景；影响可能是正面的还是负面的；影响可能多大；影响是否可接受；是否需要缓解措施；是否需要持续监测和重新评估。

01 它不是只评估风险

风险管理关注“不确定性对目标的影响”。

影响评估更进一步，关注AI系统对利益相关方、组织和社会可能产生的实际影响。

02 它不是只评估技术

它不只是看准确率、鲁棒性、性能和安全性，还要看隐私、公平、透明、责任、社会接受度和组织影响。

03 它不是一次性文件

AI系统会变化，数据会变化，场景会变化，用户行为会变化。

因此，影响评估也要动态更新。

一句话：AI影响评估，是把AI从“能不能用”推进到“是否值得用、能否负责任地用”。

三、AI影响评估评什么？

AI影响不是一个单一指标，而是一组维度。

01 权益影响

AI是否会影响个人权益、客户权益、员工权益、消费者权益或公众利益？

02 隐私影响

AI是否涉及个人信息、敏感数据、行为数据、图像数据、位置数据或身份识别？

03 公平影响

AI是否可能对不同群体、地区、年龄、职业、企业类型产生不公平结果？

04 安全影响

AI是否可能影响人身安全、工程安全、生产安全、公共安全或系统安全？

05 透明影响

AI的使用是否向相关方说明？输出依据是否可解释？系统边界是否清楚？

06 责任影响

AI出错后，谁发现、谁处理、谁解释、谁承担责任？是否有证据链？

07 组织影响

AI是否改变岗位职责、流程控制、审批权限、专业判断和管理责任？

08 社会影响

AI是否可能影响公共信任、社会公平、监管秩序、行业生态和长期价值？

一句话：AI影响评估，不是只看系统表现，而是看AI进入现实世界后的连锁影响。

四、AI影响评估怎么做？

企业可以把AI影响评估压缩为五个步骤。

01 识别影响对象

先问清楚：AI系统会影响谁？

客户、员工、供应商、业主、用户、监管者、公众、弱势群体，还是企业内部管理者？

没有影响对象，就没有影响评估。

02 分析应用场景

同一个AI系统，在不同场景下影响完全不同。

用于写文案，影响较低；用于合同审核，影响升高；用于质量判断、安全预警、结构风险评估，影响更高。

03 评价影响程度

从影响范围、严重程度、发生可能性、可逆性、可控性等角度判断。

影响范围越广、后果越严重、越难纠正，就越需要严格控制。

04 制定缓解措施

根据评估结果，设置数据质量控制、模型测试、人工复核、权限管理、透明告知、日志留痕、供应商约束和应急处置机制。

05 记录并持续更新

影响评估要形成文件记录。

系统上线、重大变更、场景扩展、数据变化、模型更新、风险事件发生后，都应重新评估。

一句话：影响评估不是为了增加文件，而是为了让AI应用有证据、有边界、有责任。

五、影响评估与风险管理有什么不同？

很多企业会把“风险评估”和“影响评估”混为一谈。

二者相关，但不完全相同。

01 风险管理更关注不确定性

风险管理关注：什么可能出错？可能性多大？后果多严重？如何控制？

例如模型误判、数据泄露、系统中断、供应商失控。

02 影响评估更关注外部后果

影响评估关注：AI会影响谁？如何影响？影响是否公平、透明、可接受？

例如是否影响客户权益、员工评价、公众安全和社会信任。

03 二者必须结合

只做风险管理，可能忽视社会影响；只做影响评估，可能缺少控制措施。

成熟的AI治理，需要做到：风险可识别；影响可评估；控制可执行；责任可追溯；结果可复核。

六、建筑业为什么更需要AI影响评估？

建筑业是高风险、高责任、长周期行业。

AI一旦进入建筑业，影响不只是效率，还会影响工程质量、施工安全、公共安全、城市治理和绿色低碳转型。

01 图纸审查影响

AI辅助图纸审查，如果漏判重大问题，可能影响设计质量、施工安全和责任认定。

02 工程质量检测影响

AI参与质量识别和验收判断，如果数据不真实、模型不适用，可能影响验收结论和工程质量责任。

03 安全生产预警影响

AI识别施工隐患，如果误报过多，可能造成管理疲劳；如果漏报严重，可能影响现场安全。

04 城市体检与房屋体检影响

AI参与结构风险、外墙隐患、渗漏、设备异常判断，可能影响政府决策、业主权益和公共安全。

05 能碳管理影响

AI用于能耗预测、碳核算和低碳策略推荐，可能影响绿色金融、碳资产、合规披露和企业声誉。

建筑业AI影响评估的关键，不是阻止AI应用，而是确保AI在进入高风险场景前，影响被看见、被评估、被管理。

七、TIC行业的新机会：从风险验证到影响评价

过去，TIC机构主要评价产品是否合格、过程是否受控、体系是否有效、风险是否管理。

AI时代，TIC还可以进一步评价：

AI影响对象是否识别；
AI应用场景是否清楚；
AI正负面影响是否分析；
高影响场景是否有缓解措施；
相关方权益是否得到保护；
人工复核和责任机制是否建立；
影响评估记录是否完整；
系统变更后是否重新评估。

这意味着，TIC机构未来不仅可以做AI管理体系认证、AI风险评估、AI数据质量评价、AI模型测试，还可以开展AI系统影响评估审核和第三方评价。

一句话：AI影响评价，将成为可信AI合格评定的重要组成部分。

八、企业可以从哪里开始？

企业导入AI影响评估，可以先从七件事开始。

01 建立AI系统清单

梳理企业已经使用和计划使用的AI系统、模型、平台、插件、工具和业务场景。

02 识别利益相关方

明确AI会影响哪些人和组织，包括客户、员工、业主、供应商、监管者、公众和特殊群体。

03 明确使用场景

说明AI具体用在哪里，是辅助生成、辅助判断、自动推荐，还是参与关键决策。

04 分析潜在影响

识别对权益、隐私、公平、安全、透明、责任、组织和社会的潜在影响。

05 制定缓解措施

针对高影响场景，建立人工复核、透明告知、数据控制、模型验证、责任追溯和应急处置机制。

06 形成评估记录

保留影响评估过程、判断依据、参与人员、评估结论和改进措施。

07 持续更新评估

当AI系统变更、场景扩展、模型更新、数据变化或发生风险事件时，重新开展影响评估。

一句话：AI影响评估不是从技术参数开始，而是从“谁会被影响”开始。

九、总结：负责任AI，必须先看见影响

ISO/IEC 42005:2025 的核心价值，是帮助企业把AI影响从“看不见”变成“可识别”，从“事后争议”变成“事前评估”。

它提醒我们：

AI不是只影响系统内部；
AI不是只影响效率成本；
AI不是只影响技术部门；
AI不是上线后才开始负责；
AI不是没有社会后果的工具。

真正负责任的AI应用，需要做到：

系统有清单；
场景有边界；
相关方可识别；
影响可分析；
风险可缓解；
权益有保护；
责任可追溯；
记录可审查；
变化可更新；
治理可持续。

未来，企业之间的AI竞争，不只是看谁模型更强、应用更多、速度更快，而是看谁能更早看见影响、更好管理影响、更负责任地释放AI价值。