能力越强,风险越大。当AI能"干活",我们该开心还是担心?
OpenClaw越火,争议也越大。
WIRED那篇"失控"的文章不是个例。越来越多人开始问:这个能帮我们干活的AI,到底安全吗?
争议焦点
1. 权限问题
它能操作你的电脑、读取你的文件、控制你的浏览器——给AI这么高的权限,真的没问题吗?
2. 自主行为
它会根据你的指令"自行其是",但它怎么判断哪个操作是"对的"?
3. 边界模糊
什么时候该问用户?什么时候该自己决定?这个边界很难把握。
两种声音
乐观派:
"菜刀能杀人,但菜刀本身没错。关键是誰在用,怎么用。"
谨慎派:
"AI不是菜刀——菜刀不会自己决定砍谁。AI会。"
我们该怎么办?
从最小权限开始 ——别一上来就给它root 保持监控 ——定期看看它在干什么 明确边界 ——告诉它什么能做,什么不能做 保持警觉 ——它越能干,你越需要盯着
技术进步从来不是只有甜蜜,没有代价。
你觉得AI Agent应该被严格限制,还是应该自由发展?
夜雨聆风