为何要给“会干活的AI”立规矩?

最近，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，将智能体安全、可靠、可信作为产业发展的底线要求，为智能体治理架构、应用场景和产业生态作出系统部署。这是我国首次针对“智能体”这一人工智能新形态制定规范。

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是人工智能产品及服务的重要形态。它能自主完成如自动订票、生成方案、调度设备等一连串任务，实现了从“回答问题”到“帮忙干活”的跃迁。

为何要在此时出台《意见》？

当下，我国人工智能技术和产业迅速发展。技术上，国产大模型不断迭代升级，以低成本实现多方面工程技术创新，加速进入普通人日常生活。更重要的是，AI的角色正在发生变化，人工智能逐渐像“大脑”一样参与决策、优化流程，甚至改变生产生活方式。

然而，当AI开始真正“干活”，很多问题也随之出现。

智能体需要直接操作电脑、调用各种资源，这种高权限设计一旦出问题，后果比回答问题出错更严重。比如自动交易差错、设备调度异常、隐私数据泄露等，还容易被黑客组织攻击。2026年以来，OpenClaw等智能体的广泛应用，展现出强大自主任务执行能力的同时，也暴露出智能体在指令诱导下可发起网络攻击等风险隐患。可见，智能体能力越强，越需要同步建立起规则和边界。

软件开发工程师展示给“龙虾”的约束指令。新华社发

《意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则，给正在高速发展的智能体技术立了规矩。

一方面，《意见》强调夯实技术底座，健全标准体系，降低智能体研发、适配、应用门槛；构建开放共享的创新生态，提升产业创新活力。另一方面，《意见》要求守牢安全底线。比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。本质上是把智能体相关的规则同步建立起来，营造良好的制度环境，让智能体发展更健康、更有序。

值得注意的是，《意见》还提到强化应用牵引。这意味着未来智能体发展，比拼的不只是模型参数，更在于谁更懂真实场景、谁更能解决现实问题。智能体发展，最终要真正进入千家万户，成为推动产业升级和社会运行的重要工具。

技术发展离不开规则治理这根“安全带”。可以预见，智能体技术还将加速发展，人与AI如何协作、边界如何划定、责任如何界定，都将成为绕不开的新课题。只有不断完善治理体系，在鼓励创新与守住安全之间找到平衡，才能让智能体技术真正释放持续而稳定的发展红利。