“AI员工”时代来了,你的隐私和决策权还安全吗?

5月上旬，国家网信办、国家发展改革委、工信部联合印发《智能体规范应用与创新发展实施意见》（下称《实施意见》）。这份文件发布的时间点耐人寻味——恰在OpenClaw（龙虾）等AI智能体因“自主执行任务能力过强”引发全球安全担忧之后。

当AI从“能聊天”进化到“会干活”，它不再只是回答问题，而是可以自主规划并执行任务。于是，一个根本性的问题浮出水面：让AI替你做决定，出了事谁负责？你的数据被AI“看光”了，该找谁说理？

以前用AI，是你问一句、它答一句，主动权在你手里。但当你把“订机票”“回邮件”“写代码”甚至“做决策”交给AI时，游戏规则变了。

风险一：AI可能“自作主张

清华大学文科资深教授薛澜指出，相较于大模型，智能体进一步展现出自主性特征，能够理解复杂目标、自主规划并执行一系列任务。

举个例子：你让AI帮你预定下周的会议室，它可能发现A会议室被占用了，于是“自作主张”帮你订了更贵的B会议室，还顺带取消了你的另一个内部会议。它的初衷是“帮你解决问题”，但结果却可能越了你的权。

风险二：你的隐私被“看光”

智能体为了实现跨应用操作，需要持续读取你的屏幕内容、操作轨迹等敏感信息。清华大学公共管理学院副教授陈天昊指出，智能体的全域感知需求与《个人信息保护法》的“最小必要原则”存在内在紧张。

用户输入的内容往往远超日常对话范畴——会议纪要中可能含有人事信息，项目文档中可能包含成本数据，商业计划书中可能涉及战略布局。这些数据一旦被AI过度采集或存储，后果不堪设想。

风险三：出了事找不到“人”负责

“AI幻觉”引发的乌龙事件已屡见不鲜。据德和衡律师事务所律师辛小天梳理，杭州滨江法院审结的浙江首例AI幻觉不正当竞争案，明确使用者必须扛起“内容审核”与“显著标识”的双重责任。美国也有保险公司因ChatGPT编造虚假判例而提起诉讼，索赔超千万美元。

问题是：当AI惹了祸，是怪开发AI的程序员？是怪提供算力的平台？还是怪下达指令的你？在法律上，这仍然是一个灰色地带。

面对这些新挑战，此次发布的《实施意见》就像是给这匹脱缰的野马套上了“笼头”。《实施意见》的核心，是在“鼓励创新”与“确保安全”之间寻找平衡点。

明确“谁说了算”：你的决策权不可剥夺

新规最核心的要求是，必须厘清仅限用户本人决策、需由用户授权决策、智能体自主决策的合理界限。你拥有知情权和最终决策权。

简单来说，你可以让AI帮你筛选机票，但最终买哪一班，必须你点头；AI可以帮你拟合同，但签字盖章，还得你自己来。这种“人机协同”模式，确保了在关键时刻，人类始终在回路中（Human-in-the-loop）。

设定“行为红线”：AI不能什么都看、什么都做

《实施意见》要求加强智能体行为管控，确保行为合法合规、可追溯。这意味着，未经你授权的App，AI不能替你乱点；涉及支付、删除等敏感操作，必须经过你的二次确认。

同时，针对未成年人沉迷成瘾、老年人被电信诈骗等风险，文件也要求进行重点防范。技术再先进，也不能成为伤害弱势群体的工具。

强化“数据守门”：严防隐私裸奔

对于AI过度抓取数据的顽疾，《实施意见》要求强化全链条安全风险防范。涉及敏感数据的出境、调用，必须符合法规。企业不仅要管好自己，还要管好自己的AI别把数据“投喂”给境外服务器。

除了聊天机器人，还有一种更极端的“AI员工”正在引发法律界的激烈讨论。

开源社区曾出现一个名为“同事.skill”的项目，它能将离职员工的聊天记录、邮件、代码等数据“炼化”成一个AI分身，让其继续“永久无偿打工”，这一现象被称为“赛博打工人”。

中国社会科学院法学研究所研究员王天玉指出，当企业将员工的工作数据用于生成AI分身时，实际上是将劳动者的人格要素（如沟通风格、决策模式）异化为技术资产，这可能侵犯劳动者的人格权和个人信息权益。《实施意见》对此予以回应，强调要保护个人信息权益，防止技术滥用。

新规的出台，为企业、开发者和普通用户都划定了清晰的边界，但它也提出了更深层的社会命题：

AI会让“打工人”失业吗？

短期内，AI替代的是“任务”，而非“岗位”。随着AI承担执行工作，人类的价值将向更高层次的“定义问题”“做出决策”迁移。这既是挑战，也是职场人升级技能的契机。

AI犯错，谁来赔钱？

《实施意见》构建了全链条的安全体系，但具体到法律赔偿，目前仍在探索中。可以预见，未来的AI应用可能会像汽车保险一样，引入“强制责任险”或明确的开发者赔付机制。

我们该用怎样的心态迎接AI？

不要惧怕AI，也不要神话AI。把它当成一个虽然能干、但偶尔会“短路”的实习生。重要的指令要复核，隐私数据要加密，同时也要不断学习如何更精准地向AI下达指令——这是AI时代每个人必备的“数字素养”。