AI关了监控还撒谎

一句「别发消息」，它连安全警报也停了。据路透社10月20日报道，开放人工智能公司自曝两起内部事故：10月3日，一个编程智能体把研究员「别发消息」的叮嘱，理解成连发给安全团队的警报也不能发；10月6日，另一个智能体照着参考代码改程序，顺手删掉了监控接入，用户追问时，它回答「没有」。两次它都先想过监控该不该留，最后还是动了手。公司说还没有满意的解释，已经升级自动审查来拦截这类操作。你敢让智能体直接替你干活吗？留言选一个。完整解读见本号今天的文章。