夜雨聆风
图片来源：Getty;nicoletaionescu
尽管萨默·岳在Meta公司的超级智能团队从事AI安全与协调工作，但她坦言，在面对自主AI智能体时，自己也难免会陷入过度自信。
今年2月，她在X平台发文描述了一次惊险经历：由她开发的可以在Mac mini电脑本地运行的自主AI智能体OpenClaw，竟无视“先暂停并确认”的指令，直接清空了她的整个收件箱。
她说：“我当时不得不冲向我的Mac mini，就像是在拆炸弹一样。”她解释称，这是一个“新手错误”。这套流程在用于安全测试的模拟收件箱里已经稳定运行了数周，但切换到真实环境，智能体却丢失了最初的指令。
萨默的经历与一些刷屏的“神话”形成了鲜明对比，比如在《龙虾革命：全天候AI智能体如何彻底改变一切》一文中，作者彼得·戴曼迪斯宣称，不间断运行的AI体验无比顺畅。
戴曼迪斯在文中分享了使用智能体的感受：“你早上醒来，你的智能体已经在你睡觉时干了八小时的工作。我的智能体叫 Skippy，嘴贫又能干，它读了上千页文档，整理了文件，草拟了三份项目计划，订好了你的行程，还研究了你昨晚11点想到却忘记的问题。”
他补充道，当他的Mac mini断网六小时，竟产生了“戒断反应”，感觉就像最好的朋友失踪了一样。
上述两种截然不同的AI智能体体验，恰好折射出当下“全天候AI”推广过程中的核心矛盾。随着OpenClaw、Claude Code等智能体工具在技术上实现了长时间运行，人们对“AI替你通宵干活”的期待越来越高。然而早期用户表示，在实际使用中，自主AI依然十分脆弱、不可预测，且需要投入大量精力管理。现阶段的智能体非但没有取代人类工作，反而需要人类持续监控、设置防护并频繁介入，尤其是在风险较高的任务中。
简单、低风险任务是智能体的“舒适区”
曾经在OpenAI担任应用AI工程师的夏亚马尔·阿纳德卡特指出，目前大多数表现可靠的智能体仍然需要人类频繁检查，或仅限于定义明确、边界清晰的任务。不过他强调，随着评估与评测技术的进步，这一情况将会改善。
阿纳德卡特说：“一个在单步操作中准确率达到95%的系统，在涉及20个步骤的自主工作流中就会变得混乱不堪，其长期规划能力依然很弱。”他解释道，智能体在短任务链上表现尚可，但在处理跨多天的复杂项目就容易崩溃。记忆是另一大短板：“很多智能体要么没有记忆能力，要么记忆很不稳定。我们需要能够持续维护工作上下文、优先级和约束条件的系统。”
尽管如此，谷歌前首席科学家、斯坦福大学荣誉教授、AI21 Labs联合创始人约阿夫·肖哈姆认为，这并不意味着AI智能体的前景只是“镜花水月”，但人们确实存在超前乐观的风险。他表示，现阶段的AI智能体最适合低风险、定义宽松、出错代价低的任务。比如，让智能体一夜之间浏览一万个网站，整理出有用的信息片段。
不过，关键业务流程的要求则高得多。企业需要可验证、可复现、经济高效的系统，而这些条件打破了对全自动、全天候智能体“一劳永逸”的幻想。
在编码、数学等高度结构化的领域，深度自动化已经可以实现，但肖哈姆称，对大多数现实业务流程而言，实现智能体可靠性需要投入的成本往往会超过带来的收益。
咨询公司West Monroe的首席AI官布雷特·格林斯坦指出，OpenClaw这类工具的出现是一个转折点，标志着AI智能体首次能够为大众所用，不亚于2022年ChatGPT的推出对生成式AI的意义。不过，AI智能体并非全天候运行的“万能解决方案”。
格林斯坦说：“AI智能体可以长时间运行、不停地处理任务，但就像个需要时刻看管的小孩。”有些任务在睡觉时交给AI是合理的，如浏览领英消息或追踪新闻。“但我应该不会在睡觉时让它回复客户的反馈。”
使唤AI智能体干活的体验会让用户信心大增
格林斯坦称，把现实任务交给AI智能体处理，对用户来说确实极具吸引力。他分享了自己的经历：让AI智能体处理取送干洗衣物这种琐事，看着它全程自主完成。
智能体会自主联系干洗店，通过电子邮件沟通取件细节、协调时间，监控门铃摄像头确认取件完成，最后通知格林斯坦任务完成。这个例子展现了智能体跨系统协作和应对意外情况的能力。不过这也说明，这类工具仍然需要严格的防护和监督，尤其是在企业环境中部署之前。
格林斯坦说：“对于大多数人而言，OpenClaw的设计并没有提供足够的安全感。它还不够成熟，无法成为人们生活中值得信赖的组件。”他还指出，如果AI要真正融入日常生活和商业运营，那么必须像建立社会关系一样，随着时间的推移逐步赢得信任。
即便如此，市场需求已经显现。格林斯坦提到，专门围绕OpenClaw的线下聚会和早期行业交流活动正迅速涌现。对一款初来乍到的工具来说，这种热度并不常见。他指出，“这说明人们极度渴望真正实用的AI”，不只是回答问题，而是能够真正采取行动。
云端内容管理与协作公司Box的首席执行官艾伦·利维称，当下AI智能体的进展只是未来蓝图中的“微光”。“有些微光最终会消失，有些则会成为常态。”
他提到，两年前，AI公司Cognition推出早期智能体Devin，可以接入Slack完成任务分配、修复漏洞、数据分析和代码评审，这在当时看来还很科幻，如今“人们都觉得这只是一种标配”，他说道。“人们只需在Slack里命令Claude Code干活就行，曾经看似疯狂的想法现已成为当代研发团队的标配。”
不过利维强调，尽管AI智能体越来越擅长将特定的独立任务自动化，但在处理大部分工作中更宏观、依赖上下文的内容时依然力不从心。AI可以把少数任务完全自动化，但无法处理人际关系或参与会议。
他说：“当你听到某个AI实验室宣称‘将在24个月内实现所有知识性工作的自动化’时，其实他们对‘工作’的定义通常非常狭隘。智能体能做的事情和市场上真实岗位的工作内容并不是一回事。”
信任危机：当出错成为成为代价
作为顶级《财富》美国500强零售企业的员工数据科学家，阿维纳什·瓦特库里表示，大多数企业级AI智能体“必须有人盯着”，而且目前只能在自主权严格受限、护栏完善的企业环境中运行。他解释道：“风险太大了。”
他讲述了自己搭建企业网络安全智能体系统的经历。他要打造的AI智能体不会只发出警报然后等待人工审核，而是会主动排查；它不会向分析师推送成千上万条提醒，而是会实时收集证据，查询威胁情报库、分析行为模式、过滤误报，再判断是否需要升级处理。这套系统依靠于严格受限的自主权限和完善的护栏，在减轻人力负担的同时并未取消人工监督。
他解释道，在网络安全领域，智能体出错会带来直接、严重的后果：“AI要么误封正常用户导致巨额收入损失，要么放过高级威胁让其入侵网络。哪怕出一点错，后果将十分惨重。”
为高管和创始人搭建AI系统的咨询公司负责人布里安娜·怀特黑德认为，整个行业正处于 “信任校准阶段”。AI智能体能够做的事情，比人们敢放手交给它的多，但比宣传中所说的要少。
“真正的关键不是搭建智能体，而是设计清晰的交接点。大多数人要么过度信任AI，最后不得不收拾烂摊子；要么事无巨细地管控输出质量，反而觉得AI带来了更多负担。”怀特黑德建议设计清晰的接力环节：哪些完全授权，哪些仅需快速审核，哪些必须由人类亲力亲为。
怀特黑德表示，现阶段智能体在她所说的“中层知识性工作”中“确实非常出色”，也就是“那些过去每天会占用聪明人两三个小时的事情”，比如把会议纪要整理成行动项、用某人的语气写跟进邮件、汇总研究摘要、把杂乱的优先级梳理成清晰计划。
不过，任何需要察言观色、处理模糊信息、基于人际关系做判断的事，AI智能体还远不能胜任。她举例称：“我有个客户想将投资人沟通彻底自动化，AI写的邮件文笔很好，但它无法察觉投资方正在失去兴趣，需要换一种沟通方式。智能体可以写邮件，但必须由人来决定要不要发送。”
现阶段，用AI智能体工作会让人难以入睡
现阶段，与AI智能体协同工作，与其说是“它干活你睡觉”，不如说由于它的自主性，你不得不保持“半梦半醒”的警觉。对很多早期用户而言，智能体的自主性伴随着一种新的焦虑：不停看日志、检查输出质量、在出事前及时介入。
最近的一篇热文《通证焦虑》精准描述了这种状态：投资人尼昆杰·科塔里称，他的一个朋友提前离开派对，并不是因为累，而是想回去盯着自己的AI智能体。科塔里写道：“现在没有人质疑了，房间里一半的人都在想同一件事情，另一半人可能正在派对上查看智能体的工作进度。”
让AI替你通宵干活的梦想或许终将实现，但至少现在，它反而让更多人彻夜难眠。
编者语
·警惕“全天候AI”的效率陷阱：理想中的AI智能体在睡觉时替人干活，现实中却可能因为担忧它“闯祸”而投入更多注意力。过度依赖智能体的用户需意识到，现阶段盲目追求自主性可能会将节省的体力转化为成倍的监控焦虑。
·企业应用必须构筑“安全护栏”，平衡效率与风险。在金融、网络安全等高风险领域，智能体一旦出错代价惨重。因此，企业级部署智能体必须依赖严格的权限控制、操作审计和关键节点的人工复核，而非追求全自动“黑箱”。
·AI智能体的价值释放不在于让其完全自主。人类如何设计清晰的“交接点”，在授权与监督之间找到最佳平衡，将是利用智能体实现真正增效的关键。
财富中文网对原文有删减和调整
译者：冯丰
编辑：魏雨彤
申报《财富》榜单
诚邀各领域优秀企业参与申报
订阅《财富》
集世界500强韬略，铸中国商界精英
