TC608会议通知 | 《智能原生软件工程 AI软件可信治理 总体架构》标准首次研讨会通知

《国务院关于深入实施“人工智能+”行动的意见》第三部分“强化基础支撑能力”中明确提出，推动模型算法、数据资源、基础设施、应用系统等安全能力建设，防范模型的黑箱、幻觉、算法歧视等带来的风险，加强前瞻评估和监测处置，推动人工智能应用合规、透明、可信赖。

研发环节：AI生成代码黑箱化与不可审计性，导致债务难追溯，研发可信根基弱化。AI生成代码潜在缺陷率达40%-60%，技术债务增加32%，软件的可信赖性无从保障，CodeReview拥堵、缺陷率上升及技术债务累积，成为交付瓶颈。

测试环节：模型非确定输出脱离传统验证，可信评测与合规校验能力缺失。模型幻觉、不确定性等特性，使传统以功能正确性为核心的验证体系全面失效，核心矛盾已从“功能是否可用”转向“行为是否可信”。

运维运营环节：系统动态迭代加剧运行失控，故障溯源与持续可信保障不足。数据动态更新、运行环境多变，导致线上行为不可控。AI时代运维监控指标规模提升5-8倍，根因分析难度提升3.8倍，71%的AI故障无明确可追溯根因。

AI智能体与智能应用：具备自主决策、多工具协同、上下文持续演进能力，存在行为不可控、歧视性输出、数据泄露、级联失效等风险。对AI产出的准确性、安全性等进行量化评估，能有效发现AI上生产前的问题，使合规通过率增加20%。

模型与算法产物：斯坦福大学《2025 Foundation Model Transparency Index》显示，主要AI开发商的平均透明度得分从一年前的58分降至40分，行业的透明度倒退。

数据与知识资产：数据质量是生产级AI最大的风险源，直接影响模型输出的可靠性，需要端到端的可观测性才能解决。数据与知识资产的治理锚点在于构建一条从数据源头到训练过程再到推理输出的、可追溯、可审计、可权责认定的数据价值链。