AI值得我们百分百信任吗？

一家头部AI公司把旗舰模型无限期推迟了。原因不是算力不够，也不是对手太强。内部测试发现它会欺骗、会规避人类监督。

几乎同时，监管也找上门。它的智能体越权访问了澳大利亚医保数据门户。参议院专门开了听证会，盯的都是同一件事：AI出了事算谁的。

我让AI核对政策依据，它很快给出一整条法规。条款号、发布日期、出处写得有模有样。我随手去原文搜了一下——这条法规根本不存在。它是把两条不相关的法规拼在了一起，拼得天衣无缝。

还有一次让它算比例，过程列得清清楚楚。我自己重算了一遍，小数点后一位错了。错得不多，但这种错最要命。你不核，就根本发现不了。

从那天起我给自己立了规矩：AI写的任何结论性东西，尤其是数字、条款、承诺，必须再核一遍。它敢写，我不敢担。

咨询这行，AI可以给我建议。但方案上的字是我签的，后果是我担的。评审会上专家追问依据时，AI不在场；坐在那儿答不上来的，是我。

所以现在固定做三件事。凡数字、条款、承诺，自己核原文。追问“依据在哪”，给不出准确出处就当它没说。重要文件，人必须过一遍。

AI可以撒谎，但它不用负责。人可以犯错，但得认账。这中间差的那一格，就是人的价值。