AI真正的失控,不是觉醒,而是没人能追责

AI监管的关键，不是陷入“末日论”或“工具论”，而是警惕少数科技巨头以“安全”和“未来”之名掌握AI定义权，回到人的主体性、责任、边界与可监督的公共生活。

1. AI失控风险正在升级，但不是“觉醒”。

前沿模型已能在目标驱动下自主拆解任务、寻找路径并影响真实系统。问题不是AI有了意识，而是治理和追责制度跟不上能力扩散。

2. 美国AI巨头的“执剑人”叙事正在反噬。

一边渲染AI危险，一边把危险转化为由自己掌控技术的理由；但OpenAI治理争议、谷歌军事AI妥协、伦理红线被删等，暴露了这种技术神话的信任危机。

3. AI“加速不可阻挡”的叙事，掩盖了权力和责任问题。

模型发布更快、成本更低、能力扩散更广，但监管、追责和公共讨论严重滞后。恐惧叙事还可能把讨论AI的权力重新交回科技公司和少数专家。

4. 真正的问题不是“AI是乌托邦还是威胁”，而是“谁有权决定AI用于什么目的”。

开源模型、AI监管规则之争，本质是AI应掌握在少数技术巨头手中，还是成为更多人能参与、理解和监督的公共技术。

5. 对普通人而言，更现实的风险是日常决定被交给无法解释、无法追责的AI系统。

危险未必发生在AI突然拥有意识的那一刻，也可能发生在合同签署、军事合作、社会管理等平常时刻。

6. 技术会反过来塑造人。

AI像一面镜子，不生成思想和情感，只反射人的语言、欲望和判断。真正要警惕的，是人把“像人”误认为“人”，并逐渐丧失自身的情感、判断和需求。

7. 出路：回到“人”本身。

当下缺少一种既有人本主义色彩、又有说服力的话语：不把AI看成末日，也不把AI当成万能工具，而是重新讨论责任、边界和人的位置，回答人如何在AI社会中拥有坚实而牢固的生活。