20家巨头连夜立规矩：你的AI助手，以后不能“自己说了算”了

你手机里的AI助手，正在从“回答问题”变成“替你办事”。它能下单、能发邮件、能调动你的账户权限。但谁来管住它？11月4日，在乌镇峰会上，二十家机构给出了答案。

一份公约，点了哪些名

中国信息通信研究院联合华为、腾讯、蚂蚁集团、阿里巴巴、抖音等二十家单位，正式发布《智能体发展自律公约》。公约提出八项自律措施，覆盖信任体系、互联基础设施、互操作能力、安全防护、治理机制、用户权益保护以及技术普及应用等方面。

在安全防护上，公约要求建立风险评估、运行监测、行为管控和异常熔断等机制，防范AI代理因技术缺陷或外部攻击，出现越权操作、隐私泄露甚至行为失控。

算法压榨与黑灰产，被点名了

公约明确抵制利用AI代理实施算法压榨、从事网络黑灰产等行为。所谓算法压榨，是指平台或企业利用AI与大数据，对劳动者或用户进行极致监控、数据分析与行为制约，以榨取最大化利润或劳动价值，例如用AI监控快递员或网约车司机。

所谓黑灰产，是指用AI从事违法犯罪，如网络诈骗，或游走于法律边缘，如AI抢票、流量造假，以此谋取暴利。

用户权益，到底护了什么

在用户权益方面，公约强调保障用户的知情权、选择权，以及对重要事项的最终控制权，防范个人信息滥用、过度迎合和认知操纵，并加强对未成年人、老年人等群体的保护。

此外，公约还提出推动不同企业的AI代理互联互通，通过发展互联技术标准、开放接口，以及明确任务授权和责任划分，降低协作障碍，提升处理复杂任务的能力。

技术的缰绳，终于有人来拉

最好的监管，不是等出事再补救，而是行业自己先把缰绳勒紧。

对普通人来说，这意味着你用的AI助手会更可控、更透明；对行业来说，这是合规门槛的整体抬高。AI代理要真正走进日常生活，先得学会“被约束”。

本文综合联合早报公开报道改写，数据以中国信通院及公约原文为准；内容仅供参考，不构成任何投资或经营建议。