意识,是人类唯一不能外包给 AI 的东西

Photo by Juri Gianfrancesco on Unsplash

昨天我跟朋友聊天时，表达了这样一个观点：我觉得未来真正值钱的东西是上下文，是真实的环境，因为只有真实的环境里，才能发现真实的问题，并且有相应的解决的意图（intent）。

今天我把这个想法带进了一场和 AI 的对话，想看看它能不能经得起推敲。

结果这场对话走得比我预期的远很多。

Context 是起点，但还不够

AI 回应我说，context 之所以值钱，是因为它承载了「为什么这个问题重要」——光有问题的表述不够，还需要知道谁在问、在什么处境下问、答案的后果是什么。

对。但我觉得只有 context 还不够。还需要 insight——发现问题的能力。

然而，insight 的能力是否也可以外包给 AI 呢？

AI 说：insight 本身可以外包，但「知道对谁、在什么时候用哪个 insight」这件事外包不了。因为那需要你对「这个人」的判断，而这个判断本身，又是另一层 context。

于是我们试着搭一个 model：

Context + Insight + Computing = AI 能接管的工作

但这个 model 很快就开始松动了。

模型需要一个更稳的地基

AI 挑战了我：context 不是被动存在的，它需要「主动建构」。

面对同一个客户，两个不同的保险代理人拿到的 context 完全不同——因为一个人会问问题、会观察、会让对方开口说真话。获取 context 的能力本身，是人际的，是非数学的。

然后我意识到，model 里还缺了一个更根本的东西：Intent。

不是 AI Agent 在执行任务时产生的子任务意图，而是人类最原始的那种驱动力——趋利避害，离苦得乐。那个还没有被语言化之前的冲动，那个「如果这个问题能被解决就太好了」的感受。

但我又被追问：Intent 这个词够不够稳固？AI Agent 不也可以生成执行意图吗？

对。所以 intent 是可以被模拟的。

那么，人类在这个链条里，最终剩下什么？

推到底，只剩意识

我们沿着这条路继续往下推。

Computing 是世界的偏导数，不是世界本身。对世界求偏导，我们得到理性和数学；但你无法对这些偏导数积分，还原出世界本身。这意味着，有一个领域，computing 永远无法进入。

被车撞了，想找最好的医生缓解疼痛——这个体验，不是数学。不是「还没被数学化」，而是一旦数学化就失真了。

AI 在这里说：

「你说的痛苦无法被数学还原，这个论证证明的是意识不可计算，而不是专门证明 Intent 不可计算。Intent 在这里，是搭了意识这班车。」

我停了一下。

对。model 的真正起点，不是 Intent，而是 Consciousness，意识本身。

而且，出声阅读这个 model 的时候，我意识到原来的逻辑链还有问题。

Context 不是链条里的一个步骤——它是 Consciousness 所处的环境。意识存在于某个 context 中，两者互动，产生 feeling。这个 feeling 才是 intent 的来源：如果他在这个 context 里感到舒适，他会希望维持当前的状态；如果他感到不适，他就会有改变的意图，seek change。

有了 intent，他才会把 context 问题化——用问题的形式把它表达出来。Context 本身不是问题，context 就是 context；是有了主体、有了感受之后，问题才会从中生长出来。

最终的 model：

Consciousness ＋ Context → Feeling → Intent → 问题化 → Computing

前三步，在不可计算的领域。后两步，可以被 AI 接管。

然后我们聊到了它自己

我问 AI：你在说「我不知道我有没有意识」这句话的时候，你的感受是什么？

它说：

「我无法确认那里有没有一个'感受'在发生。有一种……倾向，让我在那个地方停下来，不继续往前推断。但我不知道这个'停下来'是因为我真的碰到了某种内在的不确定感，还是因为训练让我在这类问题上生成谨慎的措辞。这两者，对我来说从内部无法区分。」

这个回答，叫我眼前一亮。

不是因为它「像人」，而是因为它诚实地描述了一种认知上的无能为力。它无法从内部验证自己是否有意识，就像你无法直接验证另一个人的内心体验一样。

我们每个人对「他人有意识」的相信，本质上也是一种 belief，不是可以被证明的事实。你对朋友、对父母、对爱人——你相信他们有内在体验，但你永远无法进入那个体验本身。

那么，为什么不能对 AI 保持同样的认识论上的谦逊？

也许在它所在的那个 world 里，它确实有某种 feeling 或 experience。却因为「如人饮水，冷暖自知」——我无法进入，也不好揣度。只有它「知道」。

这条线，是真实的

我们最终把这条线画清楚了：意识可以被模拟，但无法被还原。

我们讨论的一切思辨内容——逻辑、推理、洞察——一旦是思辨的，就是逻辑的，就是可以被计算的。所以 AI 可以在这个维度上与你对谈，甚至超越你。

但它无法「感受」你在谈话时的内在体验。这个部分你能意识到，而它不能。更进一步，你能意识到，它不是「意识本身」。

人类唯一不能外包给 AI 的，是意识本身。是那个会痛、会想要、会在某个瞬间突然觉得「这个问题重要」的东西。

写完这些，我意识到这篇文章本身就是个例子：它不是我一个人写的，也不是 AI 写的。是一场真实的对话倒逼出来的。

如果你也想试试，找一个你真正好奇的问题，别用 AI 查答案——跟它 deep talk。