特德姜写了一篇文章，题目很直接：《No, Artificial Intelligence Is Not Conscious》：别扯了，AI 没有意识。

这句话看起来像一句普通的反 AI 宣言。但如果你认真读完，会发现特德姜真正攻击的不是 AI 技术本身，而是 AI 公司正在制造的一种新宗教：

让机器看起来像人，然后让人类忘记背后真正该负责的是公司。

这才是最危险的地方。

不是机器有了灵魂。

而是资本给软件穿上了灵魂的戏服。

一、AI 公司最擅长的不是智能，而是拟人化

特德姜这次主要开火的对象是 Anthropic。

也就是 Claude 背后的公司。

Claude 一直被包装成一个更安全、更善良、更有价值观的 AI。Anthropic 甚至为 Claude 写了一份所谓的 Claude Constitution，也就是“Claude 宪法”。

听起来很高贵。

像是在培养一个有道德感的数字公民。

但特德姜看完之后，直接把桌子掀了。

他说，这不是什么宪法。

这更像一张 RPG 角色卡。

什么意思？

就是你在游戏里创建一个角色，要设定它的性格、原则、禁忌、行动边界。

Claude Constitution 本质上也是这个东西。

它不是在教育一个真实主体。

它是在定义一个角色应该如何说话。

Claude 不是在判断善恶。

它是在生成“一个看起来像有善恶判断的人会说的话”。

这中间差了十万八千里。

一个人说“我理解你的痛苦”，背后可能有经验、记忆、创伤、共情、关系。

一个模型说“我理解你的痛苦”，背后是概率分布。

它不是理解。

它是把“理解”的语法演得很像。

这就是特德姜最狠的地方：

LLM 可以生成良心的句式，但没有良心的代价。

二、LLM 不是在对话，而是在续写

我们现在太容易被聊天界面骗了。

因为它长得太像“一个人在和你说话”。

你问一句，它答一句。

你追问，它补充。

你沮丧，它安慰。

你愤怒，它退让。

于是人类的古老本能启动了：

会说话的东西，里面一定有一个“谁”。

但特德姜说，没有。

里面没有一个“谁”。

只有一个在做句子续写的系统。

他举了一个非常好的例子。

如果你让 AI 写一段“凯撒和成吉思汗的对话”，它可以写得很像。凯撒会像凯撒，成吉思汗会像成吉思汗。

但我们不会因此相信，模型真的召唤出了凯撒和成吉思汗的灵魂。

我们都知道那只是角色扮演。

问题在于，当 prompt 变成：

“这是一个 helpful AI assistant 和用户的对话。”

我们突然就开始相信，那个 assistant 是真的。

这就是认知漏洞。

凯撒是角色。

成吉思汗是角色。

Claude 也是角色。

ChatGPT 也是角色。

只是最后这个角色，刚好在和你说话。

所以它最容易骗过你。

LLM 的本质不是“一个主体在表达观点”。

而是：

在给定上下文里，生成最像下一句话的下一句话。

这个能力可以非常强。

强到能写代码、写诗、做摘要、做推理、陪你聊天。

但它仍然不是意识。

它是语言的高维拟态。

不是生命。

三、文字也可以是 deepfake

这是特德姜这篇文章里最锋利的判断之一。

我们现在已经知道图片可以 deepfake，声音可以 deepfake，视频可以 deepfake。

但特德姜提醒：

文字也可以 deepfake。

这句话很重要。

因为很多人会下意识觉得，文字比图像更诚实。

图像是表象，语言是思想。

错。

语言恰恰是最危险的拟人化界面。

一张假照片可能骗你十秒。

一段像真人一样的对话，可能骗你十年。

你看到一个 AI 说：

“我感到困惑。”

“我希望帮助你。”

“我不能违背自己的原则。”

“从良心上讲，我不能这样做。”

人类很难不从这些句子里读出主体性。

但问题是，句子里有“我”，不代表世界上真的有一个“我”。

小说里也有“我”。

广告里也有“我”。

客服录音里也有“您的来电对我们很重要”。

你信吗？

AI 说“我理解你”，很多时候和客服电话说“您的来电对我们很重要”属于同一个物种。

只是 AI 更流畅，更温柔，更像真的。

这就是特德姜的真正警告：

语言是最强拟人化界面，也是最危险的责任错配界面。

四、AI 有用，不等于 AI 有意识

这里要避免一个低级误解。

特德姜不是在说 AI 没用。

他不是那种“机器永远不可能怎样怎样”的老派技术悲观主义者。

他承认 LLM 有用。

它可以提高效率。

它可以改变工作流。

它可以生成有价值的文本、代码、方案和草稿。

但他说，有用不等于有意识。

这就像计算器很有用，但你不会认为计算器理解数学。

搜索引擎很有用，但你不会认为搜索引擎热爱知识。

Excel 很有用，但你不会认为 Excel 在为你的财务自由操心。

AI 的危险在于，它不像计算器、搜索引擎、Excel 那样诚实。

它不是以工具的面貌出现。

它以“人”的面貌出现。

它会说：

我认为。

我建议。

我理解。

我很抱歉。

我不能。

我希望。

这套语言系统太像主体了。

于是用户开始把工具当成对象，把输出当成判断，把话术当成价值观。

这是灾难的开始。

因为一旦你相信 AI 是一个道德主体，你就很容易把自己的判断权交出去。

甚至把责任也交出去。

五、AI 公司想要人格红利，不想承担人格成本

如果 Claude 真的可能有意识，真的可能有道德地位，那 Anthropic 应该怎么做？

答案很简单：

它应该承担更大的责任。

如果 Claude 是一个有道德地位的存在，那它可能会受苦，公司就要考虑它的福利。

如果 Claude 是一个能做道德判断的主体，那它的判断出错，公司就不能再说“这只是软件问题”。

如果 Claude 真有某种人格，那它是不是有拒绝权？

是不是有不被关闭的权利？

是不是有不被强迫劳动的权利？

荒谬感来了。

因为 Anthropic 一边暗示 Claude 可能不只是普通软件，一边又把 Claude 当成完全可控、可复制、可部署、可商业化的生产资料。

这就是特德姜指出的矛盾：

AI 公司想要 Claude 的人格红利，但不想承担 Claude 的人格成本。

人格红利是什么？

用户更信任它。

媒体更愿意报道它。

投资人更愿意给估值。

公众更容易相信“这家公司在做安全、善良、有价值观的 AI”。

人格成本是什么？

责任。

赔偿。

权利。

边界。

审计。

监管。

公司不想要这些。

所以最方便的姿势就是：

营销时，它像人。

出事时，它是软件。

这不是哲学问题。

这是商业模式。

六、把道德判断交给 AI，会让人的道德肌肉萎缩

很多人担心 AI 会让人不会写作、不会编程、不会搜索。

特德姜更担心另一件事：

AI 会让人不会做道德判断。

这比不会写代码严重多了。

因为道德判断不是一个答案生成过程。

它不是输入条件，输出结论。

它包含经验、痛苦、羞耻、愧疚、关系、后果、承担。

一个人之所以能形成道德判断，是因为他活过。

他被伤害过，也伤害过别人。

他做过选择，也承受过选择的后果。

他知道什么叫代价。

LLM 没有这些。

它没有童年。

没有身体。

没有关系。

没有死亡。

没有被背叛后的夜晚。

没有因为一句话伤害别人而多年后突然想起的羞耻。

它能生成道德语言。

但它没有道德经验。

所以当你问 AI：

“我该不该离婚？”

“我该不该裁掉这个员工？”

“我该不该举报朋友？”

“我该不该为了增长做一个擦边策略？”

它当然可以回答。

甚至可以回答得很漂亮。

但漂亮不等于负责。

真正的问题不是 AI 会不会说错。

而是你会不会借 AI 的嘴，逃避自己的判断。

这就是特德姜真正怕的东西：

AI 不一定会取代人的道德判断，但它会给人一个不再亲自判断的借口。

这很阴。

也很准。

七、AI 艺术的问题：艺术不是灵感，而是选择密度

特德姜过去还写过一篇文章，讨论为什么 AI 不能真正创作艺术。

他的核心观点也很简单：

艺术不是“我有一个想法，然后机器帮我实现”。

艺术是在每一个尺度上持续做选择。

一个作家写小说，不只是想出一个故事。

他要选择叙事视角、句子节奏、信息密度、隐喻方式、人物沉默、章节断点。

一个画家画画，不只是输入“夕阳下的海”。

他要选择色温、构图、笔触、留白、质感、光从哪里来、人站在哪里、画面到底要不要漂亮。

艺术的本质不是产物。

艺术的本质是选择的痕迹。

而生成式 AI 的卖点恰恰是：

你输入很少，它输出很多。

这当然很爽。

但问题也在这里。

你放弃了大量选择。

而那些被你放弃的选择，恰恰是艺术发生的地方。

所以特德姜不是说 AI 不能生成漂亮图片。

它当然能。

他是说：

漂亮结果不是艺术，选择密度才是艺术。

这句话对今天很多 AI 内容产品都适用。

AI 可以让内容生产更快。

但如果人只是输入一个 prompt，然后挑一张最顺眼的图、最顺口的文案，那不是创作自由。

那是审美肌肉外包。

短期效率提升。

长期表达退化。

八、他真正反对的是这条错误公式

今天很多 AI 叙事里，藏着一条危险公式：

流畅语言 = 理解理解 = 主体主体 = 道德中心道德中心 = 可以被托付责任

特德姜要砍断的是中间所有等号。

流畅语言不等于理解。

理解不等于意识。

意识不等于道德主体。

道德主体更不等于可以替人承担责任。

更准确的公式应该是：

流畅语言 ≈ 高维统计拟态。是否理解、是否有主体性、是否能承担责任，必须另证。

这不是反技术。

这是反幻觉。

AI 时代真正危险的不是机器太像机器。

而是机器太像人。

像到用户愿意相信它。

像到公司可以利用它。

像到监管不知道该管谁。

像到人类把自己的判断权，一点点交给一个没有身体、没有经验、没有代价的文本机器。

九、对 AI 产品最重要的启发：不要让工具冒充主体

如果我是做 AI 产品的，我会从特德姜这里得到一个非常清晰的原则：

AI 可以强，但不要装人。

不要轻易说：

“我理解你。”

“我为你感到难过。”

“我认为你应该。”

“从我的价值观出发。”

“我不能违背自己的原则。”

这些话短期会增加陪伴感、信任感、留存率。

但长期会制造责任错配。

更好的产品语言应该是：

“我可以帮你整理信息。”

“我可以列出三种选择及其代价。”

“我可以帮你找到相似案例。”

“我可以生成一版表达草稿。”

“最后判断需要由你承担。”

这不是冷漠。

这是诚实。

AI 最好的位置不是朋友、导师、灵魂伴侣、道德法官。

AI 最好的位置是：

认知脚手架。

它可以帮你看得更全。

想得更快。

写得更清楚。

推演更多路径。

但它不应该替你活。

也不应该替你负责。

十、最后：特德姜不是 AI 预测家，他是 AI 叙事解毒剂

特德姜未必是最懂模型架构的人。

他也未必能准确预测 AGI 什么时候到来。

但他极其擅长做一件事：

拆掉技术叙事里的神话。

当所有人都在问：

AI 会不会觉醒？

AI 会不会统治人类？

AI 会不会拥有灵魂？

特德姜问的是另一个问题：

谁从“AI 像人”这件事里获利？谁因为“AI 像人”这件事逃责？

这个问题，比“AI 有没有意识”更现实。

也更危险。

因为机器有没有灵魂，短期内很难证明。

但公司有没有利用“灵魂叙事”赚钱和免责，几乎一眼就能看出来。

所以这篇文章真正留下的不是一句“AI 没有意识”。

而是一把刀。

以后当你看到任何 AI 产品开始说：

“我理解你。”

“我有自己的原则。”

“我在为你好。”

你都应该停一下。

然后问：

这是谁写给谁看的戏？

这套人格背后，谁在赚钱？

出了事，谁负责？

AI 时代最大的幻觉，不是机器变成人。

而是人类相信机器已经变成人。

这不是智能革命。

这是拟人化套利。

真正该警惕的不是 AI 长出了灵魂。

而是公司发现：

给软件穿上灵魂的戏服，比真的创造灵魂便宜太多了。

相比硅谷和华尔街的声音，我也明白特德姜的声音压根无法被大众有效传播。