夜雨聆风
Claude Code自动模式:给AI助手系上＂智能安全带＂
前两天Anthropic给Claude Code推了个新功能叫”自动模式”,看完介绍我觉得挺有意思——这事儿要是成了,可能就是AI编程助手从”工具”到”伙伴”的转折点。
程序员的日常:被AI打断的痛苦
先说下背景。Claude Code这玩意儿我之前提过,不只是写代码,还能直接跑shell命令——创建文件夹、移动文件、提交代码到GitHub,当然也包括删库跑路。
这种能力吧,用起来是真爽,但也是真吓人。
所以Claude搞了好几层防护:
- 只能在指定文件夹干活
- 每个可能出问题的操作都要人工批准
- 实在嫌麻烦还有个核选项”dangerously-skip-permissions”(这名字起得,一听就不靠谱)
结果就是两个极端:要么每隔几分钟AI就停下来:”老板,这个操作能行吗?”—— 效率直接归零要么一拍脑门:”你随便搞吧”——然后半夜惊醒发现代码库没了
这就是典型的”安全vs效率”两难,跟加密货币的”去中心化vs可监管性”一个德行。
自动模式:Anthropic的中间路线
新推出的自动模式,说白了就是让Claude自己判断哪些操作安全,哪些有风险。
具体怎么搞的?
- 每次执行操作前,AI分类器先审查一遍
- 看起来安全的直接放行
- 有风险的(大规模删除、数据外泄、恶意代码)直接拦截
- 如果Claude坚持要干被拦截的事,最后还是会问你
Anthropic管这个叫”中间路径”——比逐个审批效率高,比完全放开风险低。
但注意了,目前只有Team计划用户能用(研究预览版),企业版和API用户要等几天。至于像我这种用Max计划的?再等等吧。
技术靠谱吗?但有代价
分类器主要盯着三类操作:
- 批量删文件
- 敏感数据外传
- 可疑代码执行
但Anthropic自己也说了:风险是降低了,不是没了。该隔离环境还是要隔离。
而且AI这玩意儿吧,说聪明也聪明,说傻也傻:
- 有些风险操作可能因为上下文理解不到位给放行了
- 有些正常操作可能被误判给拦了
文章作者有句话挺形象:”自动模式感觉像是拆了护栏,但在路边竖了个’陡坡’的牌子。”
实用性:我会用吗?
说实话,我现在想用也用不了(不是Team用户)。但要是能用,我大概率会试试自动模式,而不是那个”dangerously-skip-permissions”。
理由很简单:我想要效率,但也想要点安全感。
当然,前提是:
- 备份要做好(这是基本操作)
- 开AI之前先打个压缩包
- 还是在隔离环境里折腾比较保险
为什么要关注这个?
从元宇宙和AI发展的角度看,我觉得这个事儿挺重要:
第一,渐进式自主是必经之路从完全人工监管到AI辅助决策,这是AI系统成熟的标志。完全锁死AI,那它就是工具;给点自主权,它才像伙伴。
第二,用技术手段建立信任不是靠人盯着,而是靠AI分类器来判断风险。这种”AI监管AI”的思路,在元宇宙里大规模部署AI代理时特别重要——你不能指望人工盯着几万个AI。
第三,效率和风险要平衡完全安全=效率为零,完全自由=风险爆炸。自动模式这种”中间道路”,可能是AI产品化的正确方向。
后续会怎样?
目前自动模式只支持Sonnet 4.6和Opus 4.6,而且对token消耗和延迟会有点影响。
但我觉得这玩意儿会越来越成熟。Claude Code才推出一年,已经把编程世界搅得天翻地覆。再过一年,这种”智能安全带”可能就是标配了。
到时候,开发者的工作流可能是这样:
- 打个项目压缩包
- 开自动模式
- 喝杯咖啡回来
- 检查AI干了啥
元宇宙视角的延伸
我一直在想,这种模式能不能用到元宇宙里的AI代理?
想象一下:
- 虚拟商场里的AI店员能自主接待客户,但不会被诱导把商品白送
- 游戏里的AI NPC能根据玩家反应调整对话,但不会说出违规内容
- 元宇宙教育平台的AI导师能个性化教学,但不会传播错误信息
这些都需要类似的”智能安全带”机制——给AI自主权,但保留底线控制。
最后说两句
Claude Code的自动模式不是革命性创新,但它是务实的进步。
它告诉我们:AI发展不是非黑即白,不是”完全控制”或”完全自由”,而是要在中间找到最优解。
这种思路,值得所有做AI产品的人参考。
毕竟,真正能改变世界的AI,不是只能在实验室里跑的那个,而是能安全地跑在每个人电脑上的那个。
—END—
免责声明：以上内容为网络资料整理或翻译，不作为任何推荐以及代表本公众号观点。
点这里👇关注我，记得标星哦～