ARTICLE · 1097041
“人工智能+软件”新政落地:AI规模化应用,数据安全如何合规破局
“人工智能+软件”新政落地:AI规模化应用,数据安全如何合规破局
2026年9月，工业和信息化部印发《“人工智能+软件”专项行动实施方案》（工信部信发〔2026〕209号），并于9月11日举行专场发布会作出解读。文件明确提出，到2028年推广应用覆盖2万家规模以上软件企业，累计组织实施100项软件企业智能化技改项目，在重点行业打造100个智能体软件标杆应用；到2030年关键软件全面实现智能化升级。 01 新政的安全条款，究竟规定了什么 理解政策意图，需首先厘清其具体要求。方案在安全维度的表述具有高度的工程指向性，主要集中在以下三个层面： 一是开发环节。 要求加强人工智能生成代码安全审查，防范智能编程工具恶意指令注入等新型攻击，强化开发工具、代码库等访问控制；同时支持企业运用大模型和智能编程工具对存量软件实施漏洞挖掘、缺陷自动识别和风险分级评估，将智能安全检测嵌入软件开发全流程。 二是产品与运行环节。 针对具备自主执行能力、能够调用工具并访问数据的智能体，明确要求推进智能体身份标识、可信互联、数据安全、行为管控等安全技术研究，推动建立覆盖开发、部署、应用等环节的智能体安全管理规范；对直接进入生产一线的工业智能体，特别强调“安全可靠、行为可校验”，其与工业控制系统软件、企业核心业务系统的交互适配必须经得起检验。 三是发展保障环节。 提出完善软件产品和服务质量管理与测评规范，加强人工智能生成代码的知识产权合规治理；在标准方面，制定智能编程能力成熟度分级评估标准，研制面向软硬协同的智能体接口标准及“模型即服务”“智能体即服务”等智能服务标准。 在配套的数据要素侧，方案要求围绕代码生成、智能测试、智能运维等场景建设软件行业高质量数据集，完善数据标注、清洗与合成工具链，并依托开源社区和代码托管平台加强数据共享利用。与此同时，方案提出发展具备轻量推理与隐私防护能力的终端智能体软件。 发布会上主管部门的表述更为直白：人工智能给软件产业带来新的安全课题——开发环节面临AI生成代码规模快速扩大、智能编程深度嵌入工具链并自主操作所带来的新攻击入口；产品环节的核心问题则在于智能体的行为是否可控、可追溯，“传统以‘人在操作’为前提设计的安全机制需要相应调整”。 上述内容共同构成了一份清晰的合规任务清单。接下来的挑战在于如何将其切实落地。 02 规模化应用放大的四类真实风险 AI规模化应用带来的安全风险，并非凭空新增的类别，而是既有风险在速度、规模和隐蔽性上的系统性放大。 第一类：开发链路的信任边界被拉长。 智能编程工具接入代码库、构建系统与部署流水线后，一次恶意指令注入或上下文污染，可能在无人复核的情况下批量进入生产代码。风险不仅体现在生成代码自身的质量缺陷，更在于训练数据污染、提示词诱导以及第三方组件引入的隐蔽漏洞。当编码效率提升数倍时，若审查能力未实现同比例提升，安全缺口便会随之成倍扩大。 第二类：数据流动的不可见性增加。 智能体执行任务需要读取知识库、调用业务系统接口并拼接多源数据。在此过程中，数据是否超出原始授权范围、是否被用于模型训练或优化、向量库与日志中是否留存了敏感信息，往往缺乏清晰的记录。方案提出建设高质量数据集并加强数据共享利用，这既提供了机遇，也对数据来源合法性、标注核验与共享边界提出了更高要求。 第三类：自主行为的不可追溯。 传统安全机制大多建立在“人发起操作—系统记录日志”的前提之上。而智能体能够自主规划、连续调用工具并在多轮交互中跨越多个系统，一旦缺少身份标识与行为管控，出事时将难以界定责任主体，甚至无法还原事件发生的具体路径。这一问题在工业场景中尤为严峻，其后果直接关联生产安全。 第四类：交付物权属与合规责任不清。 AI生成代码的知识产权归属、开源许可兼容性以及训练语料的合法来源，均属于方案明确点出的治理事项。此类问题平时或许不易察觉，但在融资尽调、招投标审查、涉外合作及监管检查时，往往会成为决定性的阻碍。 03 合规破局的四条路径 路径一：把安全要求写进“人机协同”的生产组织方式 方案提出推动软件开发由“人工编写”向“人机协同”转变，并坚持就业友好导向，同步实施岗位改造与技能培训。这一导向本身就蕴含着安全含义：人机协同的分工界面，即是安全责任的划分界面。 企业应当以制度形式明确以下事项：哪些层级的代码允许AI生成、哪些必须由人工编写；生成代码强制经过的审查节点与责任人；提示词与上下文的分级管理规则；以及对工具链、代码库、密钥与凭据的访问控制策略。配套的落地动作包括建立AI生成代码的专项审查规程、引入面向提示词注入与依赖污染的检测手段，并将审查覆盖率、高危缺陷检出率、修复闭环时长纳入研发效能与安全考核指标。 此举的意义在于，将方案要求的“以智促安、防治结合”转化为可审计的组织行为，而非仅仅停留在工具采购层面。 路径二：以数据分级和最小可用原则，守住流动边界 面对规模化用智需求，完全封闭数据并不现实，可行的做法是让每一份数据的用途、去向和留存期限均可被说明。 具体而言，需要完成三项工作。其一，对投入AI场景的数据进行重新分类分级，区分公开数据、内部业务数据、个人信息与重要数据，并单独标识不得用于训练的数据集。其二，落实最小必要与用途限定，确保检索增强、微调与评测各环节仅获取完成任务所需的最小数据子集，对训练与推理环境实施隔离。其三，建立全链路留痕机制，涵盖数据来源、授权依据、加工过程、使用场景及销毁记录，为后续的数据安全评估与监管检查提供证据支撑。 在数据集建设层面，方案鼓励完善数据标注、清洗与合成工具链。对应地，标注活动的安全性需引起重视。国家标准《网络安全技术 生成式人工智能数据标注安全规范》（GB/T 45674—2025）已对标注平台与工具安全、标注规则、人员要求及核验方法作出规定；TC260发布的《生成式人工智能服务安全基本要求》（TC260-003）则明确了语料来源合法性、内容安全与标注安全的评估框架。企业在自建或采购数据集服务时，可直接以此作为验收依据。 路径三：让智能体“可标识、可校验、可追溯” 这是本轮新政最具前瞻性的部分，也是当前企业准备最为不足的环节。 身份标识旨在解决“谁在执行”的问题。无论是人类用户、后台服务还是智能体，均应具备可识别的身份凭证，且在跨系统调用时保持身份不丢失、不被冒用。 行为可校验旨在解决“能否执行”的问题。尤其对于工业智能体，必须预先定义动作白名单、参数边界与干预条件，对高风险操作设置人工确认或双人复核机制，并确保在异常情况下能够可靠中止。所谓“经得起检验”，意味着必须具备可复现的测试用例与明确的验收结论，而不能仅凭供应商承诺。 全程可追溯旨在解决“发生了什么”。日志体系需要从传统的“记录用户请求”升级为“记录智能体的目标、规划、工具调用、输入输出与最终结果”，且日志本身应具备防篡改能力与受控的留存周期。 这三项能力的建设，恰好对应方案提出的“推动建立覆盖开发、部署、应用等环节的智能体安全管理规范”。在该规范正式出台前，企业可先行参照现有框架开展自评：包括《网络安全法》《数据安全法》《个人信息保护法》确立的基础义务，《生成式人工智能服务管理暂行办法》规定的服务提供者责任，《人工智能生成合成内容标识办法》及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》关于显式与隐式标识的要求，以及深度合成与算法推荐相关规章中的备案与评估义务。提前对齐这些要求，能够在未来行业规范出台时大幅降低改造成本。 路径四：把知识产权与供应链合规纳入交付标准 AI生成代码的知识产权合规治理已被方案列为专项任务。企业需要在合同与交付文件中明确三项内容：生成内容的权属与使用范围、所涉开源组件的许可清单及兼容性结论、训练与推理所用语料与模型的合法来源证明。 在供应链维度，应建立模型与工具准入清单，对外部引入的模型、智能体组件及第三方API进行安全与合规评估，持续跟踪版本更新与漏洞通告，并对算力、模型、工具一体化服务的使用边界作出明确规定。方案提出完善智算云服务体系、用好算力券等普惠性政策，企业在享受成本红利的同时，也需同步厘清数据存储位置、处理主体与跨境路径，避免因架构选择不当而引发后续整改。 04 一份可操作的落地节奏 对于正处于观望或试点阶段的企业，建议按以下三个阶段稳步推进： 第一阶段（1—2个月）：摸清底数。 盘点已上线和计划上线的AI场景，逐一明确其所用数据类别、调用的系统接口、涉及的个人信息情况，以及是否构成深度合成或需履行算法与模型相关义务。同时，评估现有日志体系能否还原一次智能体调用的完整链路。这一阶段的产出应是一份风险清单与优先级排序，而非宏大的规划方案。 第二阶段（3—6个月）：建机制、跑通一个闭环。 选择一条代表性业务线，将AI生成代码审查、数据分级与最小可用、智能体身份标识与行为白名单、全链路日志四项机制同步跑通，形成可复制的模板。此阶段的关键在于机制之间的衔接顺畅，无需追求覆盖面。 第三阶段（6个月以后）：规模化与可证明。 将模板推广至更多场景，同时将合规成果转化为可出示的材料，包括制度文本、评估报告、测试与验收记录、审计日志及培训记录。方案强调完善软件产品质量管理与测评规范，这意味着未来“能否提供证据”将与“是否做到”同等重要。 05 三个容易被忽略的边界 其一，数据共享不等于数据开放。 方案鼓励依托开源社区和代码托管平台加强数据共享利用，但共享的前提是权利清晰。代码数据中常夹杂许可证信息、密钥残片与客户业务逻辑，直接上传可能同时触碰数据安全与知识产权两条红线。共享前必须进行专项清洗与合规审查。 其二，终端智能体的隐私防护是硬要求而非加分项。 方案明确提出发展具备轻量推理与隐私防护能力的终端智能体软件。端侧处理固然能减少数据出域，但本地存储、缓存与跨应用调用同样构成新的攻击面。隐私防护能力需要落实到具体的技术方案与验证结论中。 其三，就业友好与安全能力互为支撑。 方案专章提出促进软件产业就业友好发展，引导企业优化人机协同的生产组织方式，同步实施岗位改造与技能培训，并加强AI对就业影响的评估。从安全视角审视，重复性基础工作交由工具处理后，需求理解、架构设计、集成运营、代码审查与AI安全等高附加值岗位的责任反而更加重大。人员能力的转型进度，直接决定了前述各项机制能否真正运转起来。 06 结语 《“人工智能+软件”专项行动实施方案》的核心价值，在于将人工智能与软件的融合从技术探索转变为有目标、有项目、有标准的产业行动。而其中关于安全保障能力的部署则进一步表明：这场行动的准入门槛，正是安全能力本身。 主管部门在发布会上指出，发展和安全是一体之两翼、驱动之双轮，要坚持统筹发展与安全，贯通开发、产品和规范等产业全链条安全治理。对企业而言，这句话的实践意义十分明确——不必等到规模扩张完成后再去弥补安全短板，而应在起步之初便将安全纳入整体架构。 率先完成这套体系建设的企业，获得的将不仅是合规层面的安心，更是在招投标、行业标杆评选与生态合作中难以被轻易复制的竞争壁垒。当2万家企业的智能化改造陆续展开时，决定最终格局的，或许正是那些在今天便已将数据边界、行为可溯与权属清晰等问题厘清的先行者。 AGI星云工厂（龙魂星云（成都）存储科技有限责任公司）尊重知识产权，若存在侵权，请联系我们处理；内容有误，也欢迎指正。 
点击上方蓝字关注我们
当“覆盖2万家企业”“100个标杆应用”从目标转化为产业节奏时，一个现实问题随之浮出水面：应用的规模上去了，数据安全的承载能力是否同步跟上？
值得注意的是，该方案并未将安全置于文末泛泛而谈，而是将其写入六大任务之一的“提升软件领域安全保障能力”，并与智能编程、智能体软件培育同步部署。这一结构安排传递出明确的政策导向——安全不再是事后的合规补救，而是规模化应用的前置条件。
扫描二维码获取
更多精彩
AGI星云工厂