AI监管新动向:不仅管模型,更要管系统

“人工智能进入医院、银行、政务和公共服务之后，监管关心的就不只是模型回答问题的准确性，还要看它能接触哪些数据和系统，谁授予它权限，出了问题谁能及时中断服务，相关操作是否留痕。”

2026年9月29日，新加坡数字发展及信息部高级政务部长 Tan Kiat How 在 Tech Week Singapore 发表讲话，提出人工智能治理应当从 model assurance 逐步转向 system assurance，也就是从模型保证转向系统保证。

这意味着，评估人工智能时，不能只看模型本身。数据是否可靠，外部工具是否安全，工作人员能否及时复核，机构有没有明确的操作流程，实际运行环境是否适合，这些因素都应当纳入考察范围。

人工智能带来的风险，也不只来自模型输出错误。权限配置不当、外部工具误用、组织内部缺少复核机制，或者工作人员没有及时发现和纠正系统偏差，都可能造成实际损害。

这对中国人工智能法的制定有直接启发意义。

在高风险场景中，人工智能的监管对象应当覆盖完整的应用系统。风险评估和合规审查除了模型测试，还要关注数据、外部工具、人员能力、组织流程和部署环境。

人工复核应该规定的更为系统，法律需要明确复核责任主体、复核事项以及暂停、限制和纠正系统运行的权限。复核人员能否查阅原始材料，复核过程如何记录，也应当作出具体安排。仅作原则性规定，难以保证人工控制真正有效。

智能体治理还要解决更加清晰的身份角色和授权问题。当人工智能能够访问系统、调用工具、处理敏感信息，甚至代表个人或组织实施交易时，应当说明其代表的主体、授权来源和权限范围。支付、信息调取和其他重要操作，还应设置再次确认、异常情况下中止、权限撤销以及操作日志记录和留存机制。

新加坡数字发展及信息部，Opening Address by SMS Tan Kiat How at Tech Week Singapore

转载编辑 | 谢筱栩