AI治理的重心,不该是“管住工具”,而该是“锁定责任”

规则只能约束看得见的人；数据与责任链，才能追上绕行者。

导言：治理最该回答的，不是“还能加什么限制”

人工智能治理已经成为一个高频议题。讨论通常从“哪些能力需要限制、哪些模型需要认证、哪些场景需要准入”开始。但比列禁用清单更重要的问题是：治理的摩擦究竟应该落在哪里？是预先落在每一个普通用户、开发者和中小企业身上，还是主要落在真正制造高风险、控制关键系统并从中获益的主体身上？

这个问题决定了治理是否公平，也决定了治理是否有效。规则具有天然的可见性偏好：公开运营的平台、实名使用的个人、愿意提交材料的企业最容易被监管；匿名化、私有化、跨境化的违法网络反而更容易从规则边界之外绕行。一套让守法者越来越难使用、让绕行者仍能低成本升级的制度，不是在缩小风险，而是在重新分配能力。

因此，AI治理需要改变重心：不是继续给所有工具统一上锁，而是扩大守法侧的能力，压缩高风险侧的隐身空间；不是把合规做成创新的入场券，而是建立能够支持发现、保全、归因、审查和追责的数据责任链。治理不能只会告诉公众“什么不能用”，更要让真正的伤害者知道：技术不会成为责任的遮蔽物。

▲ AI治理总体框架：从普遍限能转向精准控险

资料依据：综合NIST AI RMF、欧盟《AI法案》风险分级与可追溯要求，以及本文提出的治理优先级重排

一、对象不对称：规则先约束守法者，风险却从体系外扩张

AI风险从来不是平均扩散的。普通公众更多把AI用于写作、检索、翻译和办公辅助，而组织化黑灰产会把模型接入账号池、话术库、支付链、深度伪造工具和自动化代理，以更低成本完成目标筛选、身份伪造、跨语言沟通和批量诈骗。UNODC连续发布的东南亚网络诈骗研究显示，犯罪网络正在把恶意软件、生成式AI、深度伪造、地下银行和加密资产洗钱整合为一套工业化运营体系。[3][4][5] INTERPOL《亚太网络威胁评估报告2025/2026》同样把AI驱动的深度伪造诈骗、工业化欺诈、勒索软件和信息窃取恶意软件列为突出威胁。[6]

犯罪集团不会因为一张认证证书不存在就停止犯罪。它们可以绕开公开平台，使用盗用身份、匿名账号、境外服务器、私有模型和快速迁移的基础设施。相反，真正会认真填写表格、接受审查、按要求改造系统的，往往本来就是较为守法的主体。于是，前置治理很容易出现一个讽刺结果：规则成本被精确地征收到了合规者身上，风险能力却在规则之外继续增长。

这并不意味着大型平台和高资源机构天然有罪，但规模、控制力和收益必须对应更高责任。技术优势不是责任豁免权，市场地位也不是算法黑箱的通行证。对于算法歧视、虚假诱导、滥用数据、操纵交易、不正当竞争和垄断性排除，应当依据相应法律制度追究责任，而不是把它们包装成“创新红利”。盈利不是违法；利用信息不对称和支配地位把损失转嫁给公众，则不能只被视为商业策略。

因此，守法侧同样需要被赋能。普通人需要AI识别诈骗、核验音视频、保护隐私和辅助维权；中小企业需要AI开展异常检测、代码审计和合规管理；基层公共机构需要AI处理线索、发现模式和提高响应效率。攻击侧已经进入自动化和智能化阶段，防御侧如果仍被要求依靠人工筛查和静态清单，所谓“安全治理”只会成为低效率治理。

▲ 对象不对称：公开合规通道承担成本，违法网络从身份、平台和地域边界之外绕行

资料依据：UNODC东南亚诈骗研究、INTERPOL亚太网络威胁评估及相关网络安全实践

二、速度不匹配：不能用昨天的名词表，管理今天的能力组合

传统治理通常按照线性流程运行：发现问题、收集案例、专家论证、制定标准、实施检查，再根据新问题修订规则。这种机制并非无效，但它适合对象相对稳定、变化速度相对缓慢的领域。AI恰恰相反：模型、工具链、Agent、部署方式和应用边界持续重组，治理对象不是某个固定产品，而是一组可被快速拼装、迁移和放大的能力。

Stanford HAI《2025 AI Index》指出，重要AI模型的训练算力约每五个月翻倍，大语言模型训练数据集规模约每八个月翻倍。[2] 到《2026 AI Index》，产业界在2025年推出了超过90%的重要前沿模型，组织AI采用率达到88%，进一步显示能力扩散和产业集中正在同时加速。[1] 这些指标不意味着每一项能力都永远按指数增长，但足以说明：监管以年度修订，技术却可能以月、周甚至日为单位重新组合。

这就是技术治理中的“步调问题”（pacing problem）：法律、伦理与监管系统的更新速度，往往落后于新技术的迭代速度。[9] 对AI而言，滞后不仅来自模型升级，还来自部署方式变化。一个诈骗模式被发现、报道并纳入规则可能需要数月；攻击者却可以在几天内更换模型、改写提示词、迁移平台、重建账号、切换语言和替换伪造素材。

因此，AI治理不能只依赖不断增厚的静态文本。规则必须更多地转化为持续运行的能力：实时监测、快速响应、跨平台情报共享、自动化取证、模型行为审计、持续评估和机器可读的政策接口。治理的速度不必超过技术创新，但至少要缩短从风险出现到被发现、被保全、被阻断的窗口。

▲ 速度不匹配：AI能力与应用组合快速迭代，传统规则更新形成持续扩大的滞后窗口

资料依据：概念示意；技术趋势参考Stanford HAI《AI Index》，治理滞后概念参考pacing problem研究

三、工具错配：AI时代不能只靠静态规则治理AI

网络安全已经给出清晰答案。过去的防御体系大量依赖规则库、特征码、漏洞扫描、人工安全运营和补丁流程；但AI能够帮助攻击者生成更自然的钓鱼信息、改写恶意代码、模拟熟人语气、生成虚假头像和语音，并根据防御反馈快速迭代。攻击从“复用固定工具”转向“动态生成变体”，仅靠静态特征匹配必然越来越被动。

防御侧也在AI化。CISA公开的AI用例包括从网络数据中识别异常、辅助分析潜在威胁等场景。[7] NIST AI风险管理框架强调“治理、映射、测量、管理”四项持续性功能，并明确风险管理应贯穿AI系统生命周期，而不是完成一次审查就宣告安全。[8] 这说明“用AI治理AI”并不是让模型代替法官，而是让AI承担发现、筛选、关联、预警和取证辅助，把人类判断集中到真正关键的环节。

必须划清一条边界：AI可以提高治理的感知速度，却不能替代法律定性和正当程序。模型输出只能是线索、排序或辅助意见，不能自动等同于违法事实。越是高风险的执法、处罚和权利限制，越需要可解释证据、人工复核、申诉渠道和责任明确。技术可以加速发现，权力不能因此跳过程序。

四、真正的治理底座：建立“最小必要、可信保全、责任可达”的数据体系

AI违法行为的难点，往往不只是缺少禁止性条文，而是危害发生之后，能否还原事实、固定证据、识别控制者并形成可执行的责任。AI参与的违法活动具有匿名化、自动化、跨平台、跨境和快速变形等特点。如果没有身份与授权记录、模型版本、关键操作日志、传播链路、资金链路和电子证据保全机制，受害真实发生之后，责任仍可能在多层外包、账号盗用和系统黑箱中蒸发。

欧盟《AI法案》第12条要求高风险AI系统具备自动记录事件的能力，以支持风险识别、上市后监测和运行监督；第19条进一步规定在提供者可控制的范围内保存自动生成的日志。[10][11] NIST日志管理指南则长期把日志视为事件响应、攻击分析和安全管理的基础。[12] 中国现行电子数据证据规则也强调收集过程、时间地点、方法、完整性校验值和保全过程，民事诉讼规则则要求审查电子数据的真实性、合法性和关联性。[14][15]

但“建立数据体系”绝不等于记录所有人的全部提示词，更不等于无限期集中存储。无边界的数据留存会把治理基础设施变成新的风险源。《个人信息保护法》明确要求个人信息处理遵循合法、正当、必要原则，收集范围应限于实现目的的最小范围，不得过度收集。[13] 因此，数据责任链必须同时包含四条护栏：目的限定、风险分级、权限隔离和到期删除。

一个可行的结构是：低风险场景只保留最少的安全与版本信息；一般风险场景增加透明标识、关键操作记录和投诉接口；高风险系统才承担更严格的身份、决策、模型版本、人工复核和审计记录义务。留痕对象应优先是“关键事件”，而不是“全部内容”；留存期限应与风险和证据需要匹配，而不是默认永久保存。

数据链本身不是判决书。它只负责让事实不消失、证据不断裂、责任不蒸发；最终认定仍需经过真实性、合法性、关联性审查和正当程序。只有这样，数据才能成为责任基础设施，而不是全民监控基础设施。

▲ 数据责任链：从行为发生到依法救济与惩戒，同时设置目的限定、分级留存、权限隔离和到期删除

资料依据：欧盟《AI法案》第12、19条，NIST日志管理指南，中国个人信息保护与电子数据证据规则

五、前置规则不是无用，而是不能成为默认答案

标准、认证、准入和牌照并非天然错误。医疗诊断、关键基础设施、公共权力行使、生物识别、未成年人保护、金融信贷等高风险场景，确实需要更严格的测试、审计、准入和人工监督。问题在于，前置控制是否被无差别地扩张到大量低风险、探索性和普惠性使用。

对低风险应用一律要求重认证，本质上是把社会创新权做成牌照：大型企业能够承担合规团队、审计费用和漫长周期，小团队与一线使用者却会被排除在外。结果可能不是更安全，而是把创新和市场进一步集中到少数高资源主体手中。2026 AI Index显示，前沿模型生产已经高度集中于产业界，这更要求治理避免把进入成本继续向上推高。[1]

相反，对真正高风险系统如果仍停留在材料报送和一次性认证，同样是治理失效。一次通过不代表持续安全，一张证书也不能证明模型更新、数据漂移和部署变化之后仍然可靠。前置规则必须与持续监测、事故报告、日志留存、独立审计和责任追究结合，否则认证只会变成形式主义的免责印章。

更合理的分层原则是：低风险使用以开放和普惠为主；一般风险强调透明、标识、投诉和可追溯；高风险系统实施严格准入、持续评估、人工监督和更高责任。规则应该随着风险上升而加重，而不是随着技术新颖度上升而加重。

六、AI治理需要重新排列优先级

第一，普惠赋能。把AI素养、防骗识别、内容核验、安全开发和合规工具变成普通人、中小企业与基层机构能够获得的能力。防御侧能力不足，本身就是安全风险。

第二，高风险前置控制。把严格准入集中到对生命安全、基本权利、公共利益和关键基础设施影响显著的场景，避免用最高强度规则覆盖所有使用。

第三，动态监测与快速响应。建立跨平台风险情报、异常检测、事件报告、快速冻结与证据保全机制，使治理从文件系统升级为运行系统。

第四，最小必要的数据责任链。记录足以证明关键事实的数据，同时严格限定目的、权限和期限，防止治理数据被滥用。

第五，与控制力和收益相匹配的责任。模型提供者、部署者、平台、专业使用者和最终行为人应根据控制能力、过错、获益和风险分担责任。能力越大、收益越高、风险越可预见，越不能把代价全部推给用户和社会。

结语：不要把门槛筑在普通人面前

AI治理不是在“发展”与“安全”之间二选一。真正的问题是：安全成本由谁承担，治理力量投向哪里。若制度首先压低所有人的能力，却没有提高违法行为的可发现性、证据的可保全性和责任的可执行性，那么规则越多，未必越安全；它可能只是让守法者更慢，让高资源主体更强，让绕行者更熟练。

更先进的治理，不是让创新先证明清白，而是让高风险系统证明自己值得被信任；不是给每一个普通使用者增加一道门槛，而是给关键行为建立一条责任链；不是用静态清单追逐不断变形的能力，而是用动态工具、可信数据和正当程序持续缩短风险窗口。

参考资料

[1] Stanford HAI, The 2026 AI Index Report

[2] Stanford HAI, 2025 AI Index Report: Research and Development

[3] UNODC, Billion-dollar cyberfraud industry expands in Southeast Asia (2024)

[4] UNODC, Inflection Point: Global Implications of Scam Centres, Underground Banking and Illicit Online Marketplaces in Southeast Asia (2025)

[5] UNODC, Emerging Threats: The Intersection of Criminal and Technological Innovation in the Use of Automation and AI (2025)

[6] INTERPOL, Asia and South Pacific Cyber Threat Assessment Report 2025/2026

[7] CISA, Artificial Intelligence Use Cases

[8] NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0)

[9] Marchant, Allenby & Herkert, The Growing Gap Between Emerging Technologies and Legal-Ethical Oversight

[10] European Union AI Act, Article 12: Record-keeping

[11] European Union AI Act, Article 19: Automatically generated logs

[12] NIST SP 800-92, Guide to Computer Security Log Management

[13] 《中华人民共和国个人信息保护法》

[14] 两高一部《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》

[15] 最高人民法院《关于民事诉讼证据的若干规定（2019修正）》

— 完 —