AI的每次回答都在"抽卡"——它身后站着千亿

AI 每次回答都像在“抽卡”，人类别急着拿自己的认知给它套缰绳。

AI 偶尔会交出“外星科技”：NASA 有台 AI 设计的火箭发动机，性能碾压人类。可工程师根本看不懂它为啥能工作。AI 下棋、设计药物也常出这种神来之笔。

它的答案来自海量概率：大模型生成内容就像在无数可能性里抽卡。所以同一句提问，每次答得都不一样。有时惊艳，有时平庸。

人类总想给 AI 套上缰绳：为了安全，我们教它迎合人类偏好。还逼它按人类的逻辑一步步解释。但问题是，真正的新知刚出来时往往没法解释。

该不该彻底放开缰绳？：作者觉得现在还不行。毕竟人类害怕的是变强却看不懂的 AI。稳妥的做法是分两步走：科研设计这类试错成本低的领域，先让 AI 自由发挥；涉及生命安全的领域，安全底线必须长在 AI 的价值观里。

真正的安全不是让 AI 永远听话，而是人类赶紧跟上它的进化。