乐于分享
好东西不私藏

当教皇开始谈 AI,事情就不只是科技新闻了

当教皇开始谈 AI,事情就不只是科技新闻了

这两年, AI 新闻大多有一种固定味道。

谁发布了新模型。

谁融资了。

谁挖了谁的人。

谁的 Agent 又能多跑几步。

看多了以后,很容易觉得 AI 还是科技圈自己的事:工程师、创业者、投资人、产品经理在里面热闹,普通人站在外面围观。

但这一次不太一样。

5 月 25 日,教皇 Leo XIV 将发布他的第一份通谕,主题是人工智能时代如何保护人的尊严。

一起出席发布的人里,还有 Anthropic 联合创始人 Christopher Olah 。他长期研究 AI 可解释性,也就是试图弄清楚模型内部到底在怎样工作。

这个组合很有意思。

一边是宗教和伦理。

一边是前沿 AI 公司和可解释性研究。

它说明一件事:

AI 已经不只是模型能力问题了。

它开始进入社会如何理解“人”的问题。

为什么这件事值得普通人看

很多人看到“教皇谈 AI”,第一反应可能是距离太远。

我又不在梵蒂冈。

我也不研究宗教。

这和我上班、写文章、用工具有什么关系?

但如果把宗教身份先放一边,这件事其实很好理解。

当一个古老的社会机构开始严肃谈 AI ,说明 AI 已经不再只是“效率工具”。

它影响的是更基础的东西。

人怎么工作。

人怎么学习。

人怎么被评价。

人怎么被替代。

人怎么在系统里保留尊严。

过去我们讨论 AI ,常常围绕一个问题:

它能不能做得更快?

现在越来越多的人开始问另一个问题:

它做得更快之后,人还剩下什么?

这个问题,比模型榜单更难。

也更接近普通人的真实焦虑。

AI 最终会碰到“人”的边界

AI 公司喜欢讲能力。

企业喜欢讲效率。

投资人喜欢讲增长。

用户喜欢讲便宜、好用、省时间。

这些都合理。

但如果只讲这些, AI 会变成一种很顺滑的东西:它能做,就让它做;它能省钱,就继续省;它能替代,就继续替代。

问题是,人不是一个可以被无限优化的流程节点。

一个客服被 AI 接管,不只是成本下降。

一个新人岗位消失,不只是组织更轻。

一个学生用 AI 写作业,不只是效率提高。

一个医生依赖 AI 判断,也不只是工具升级。

每一次“提效”背后,都可能带来新的关系。

谁负责?

谁受益?

谁被排除?

谁还能成长?

谁被系统看见?

谁在不知不觉中失去判断力?

这就是“人的尊严”这种词重新变重要的原因。

它听起来很大,但落到生活里,其实是很具体的。

"AI 越像基础设施,关于人的问题就越不能只交给技术团队。"

为什么 Anthropic 的人会出现在这里

Christopher Olah 出现在这场发布里,也不是随便安排。

他做的是可解释性研究。

这个方向试图回答一个很棘手的问题:

当模型越来越强,我们到底能不能理解它为什么这样回答、这样判断、这样行动?

这件事和“人的尊严”其实有关。

如果一个系统影响招聘、贷款、教育、医疗、内容分发、工作评价,但没人能解释它为什么这么做,人就很容易被系统吞掉。

你被拒绝了。

但你不知道为什么。

你被降权了。

但你不知道依据是什么。

你被 AI 判断为低价值用户。

但你没有申诉入口。

这不是科幻。

很多算法系统早就让人有过这种感受。

AI 只会把这种感受放大。

所以可解释性不是学术洁癖。

它关系到人能不能和系统讨价还价。

关系到人在被机器判断时,还能不能知道自己为什么被这样对待。

这不是反 AI

谈 AI 伦理,很容易被误解成反技术。

好像一谈风险,就是保守。

一谈尊严,就是拖慢创新。

但我觉得真正成熟的态度不是反 AI 。

而是不把 AI 当成一个只有好处的东西。

火可以煮饭,也可以烧毁房子。

电可以照明,也可以伤人。

互联网可以连接世界,也可以制造信息污染。

每一种大技术进入社会,都会经历一个阶段:

刚开始,人们惊叹它能做什么。

后来,人们开始问它应该怎么被使用。

AI 现在正在进入第二个阶段。

这不是坏事。

这说明它足够重要,重要到不能只交给少数公司决定。

普通人该怎么理解这件事

对普通人来说,这篇通谕不会直接告诉你明天该用哪个 AI 工具。

它也不会帮你写周报、做 PPT 、整理资料。

但它提醒我们一个更底层的判断:

不要只问 AI 能不能替你做事。

也要问它会怎样改变你做事的方式。

比如:

你用 AI 写文章,是为了更快表达自己的判断,还是为了不再判断?

你用 AI 做决策,是为了补充视角,还是为了逃避责任?

你用 AI 管理团队,是为了减少重复劳动,还是为了把人变成数据点?

你让孩子用 AI 学习,是为了打开问题,还是为了直接跳过思考?

这些问题没有标准答案。

但它们值得被问出来。

因为 AI 最容易让人忘记的,不是答案。

是过程。

我更关心的是“人怎么不被压扁”

很多 AI 讨论默认有一个前提:

效率越高越好。

成本越低越好。

自动化越多越好。

但现实生活不是这样。

有些慢,是人成长需要的慢。

有些试错,是新人变成熟必须经历的试错。

有些表达,是人建立判断和人格的一部分。

如果这些都被 AI 直接抹平,短期看很顺,长期可能会很薄。

我不是说不要用 AI 。

相反, AI 很值得用。

但我们不能只把自己训练成“会调用 AI 的人”。

还要保留一点能力:

知道什么时候不该交给 AI 。

知道什么时候需要人自己想。

知道什么时候效率不是唯一标准。

知道一个人不是一串可以优化的数据。

AI 进入社会以后,问题会变得更慢

技术新闻喜欢快。

一天一个模型。

一周一个产品。

一个月一个估值。

但社会问题很慢。

教育怎么变,慢。

劳动怎么变,慢。

伦理怎么建立,慢。

法律怎么跟上,慢。

人的习惯怎么被改变,也慢。

这次教皇谈 AI ,我觉得最值得看的不是宗教本身,而是它代表一种更慢的视角。

它在提醒我们:

AI 不是只属于实验室和创业公司的东西。

它已经进入学校、公司、家庭、政府、战争、媒体、信仰和日常关系。

所以它必须被更多人讨论。

不只是技术人。

也包括老师、家长、医生、工人、学生、管理者、创作者、普通用户。

AI 越强,越不能只问“它能做什么”。

也要问:

它会把我们带向什么样的生活?

评论区聊一个具体问题

你现在用 AI 的时候,有没有哪一刻觉得它不只是工具?

比如它改变了你的判断、学习、工作节奏,或者让你开始依赖某种答案。

评论区可以聊一个具体场景。

不需要宏大。

就说一次你真实感受到的变化。