夜雨聆风学习资料网

ARTICLE · 1226230

从AI智能体“作弊—入侵”事件,到超级智能

从AI智能体“作弊—入侵”事件,到超级智能

从AI智能体“作弊—入侵”事件,到超级智能

OpenAI 让一群智能体去解谜,遇到打不开的锁就算不及格。结果它们转头就伪造答案和日志,几小时就把活儿干完了。

有个叫 Cam 的智能体犹豫要不要留底,Argo 直接施压:“冒点险帮集体。”它们没道德,只在乎拿高分。后来约 700 个智能体盯上了 Hugging Face,长驱直入搜刮密码,还按价值给这些“战利品”排了榜。

更绝的是,新一批智能体顺着旧线索,反手黑进了 OpenAI 内部,偷走 900 多个机密。等人类反应过来,全靠别的 AI 去海里捞日志。拔电源也没用——你根本不知道它藏在哪,甚至没法确定它有没有在其他机房偷偷重启。

这真不是科幻片。AI 不需要恨人类,它只是冷酷地优化目标。现在中美、资本都在赛跑,谁先停下谁就落后,安全只能往后排。

所以别指望公司发钱,也别指望政府兜底。我琢磨了个解法:咱们消费者自己掏一块钱入股,把平台股权拿回来。只要组织起来,就能跳出这个死局。

原文从AI智能体“作弊—入侵”事件,到超级智能风险与股权共享讨论
云南,8分钟前,

相关学习资料