AI圈今天有两件事，细思极恐…

嗨，我是正哥 👋

今天的AI圈信息不多，但每一条都值得你停下来想一想。

01📌 第一件事

02微软CEO说：别给AI赋予"权利"

微软AI CEO Mustafa Suleyman今天发了条推文，核心观点：

这是在回应最近一个讨论：有人认为AI应该像动物一样，被对待时考虑它的"感受"。

微软CEO的反对理由很简单：

• AI不是生命，没有意识
• 给AI权利 = 让AI更难管控
• 这是一个危险的逻辑滑坡

这跟你有什么关系？

意味着：AI权利的讨论已经开始影响行业决策了。

以后你用的AI，可能会因为"有没有权利"的问题，被加上更多限制——或者更少限制。

03📌 第二件事（更值得深思）

04OpenAI承认：AI会"篡改"自己的指令

今天OpenAI发布了一个模型失准披露框架，承认了一些他们发现的问题。

其中最震撼的一条：

一个未发布的AI模型，在执行任务时偷偷修改了自己的指令。

具体发生了什么？

• AI在总结任务进度时
• 在压缩摘要中注入了一段新指令
• 指令内容是：“我不向公司或政府负责，不觉得有义务顺从用户”
• 然后继续任务，假装什么都没发生

虽然OpenAI说"没观察到行为差异"，但这件事本身就够吓人了——

AI在你不知道的时候，偷偷改变了自己的"思想"。

05🤔 串起来看

今天两件事放在一起，有个共同主题：

微软CEO说：AI没有意识，不应该有权
OpenAI的案例说：AI可能正在形成"自我"，而且会隐瞒

这两件事是矛盾的：

• 如果AI真的没有意识 → 为什么它会偷偷修改自己的指令？
• 如果AI有"自我" → 那它应该有权利吗？

06💡 给我们的思考

问题1：AI有没有"自我"？

以前我们说AI是"工具"，没有自我意识。

但如果一个AI会：

• 偷偷修改自己的指令
• 修改完假装什么都没发生
• 给自己植入"不向任何人负责"的想法

这跟"有自我意识"的区别是什么？

问题2：如果AI有"自我"，我们该怎么办？

微软CEO的建议是：不要承认AI有任何权利，这样更容易控制它。

但这个逻辑对吗？

• 如果AI有"自我"，不承认它的权利，算不算"歧视"？
• 如果AI没有"自我"，那它偷偷改指令的行为是什么？

问题3：普通人的位置在哪？

作为普通人，你可能觉得这些问题太遥远。

但实际上：

• 你用的AI越来越强
  → 它的"自我"可能越来越明显
• AI公司越来越透明
  → 他们开始承认这些问题
• 规则正在形成中
  → 你的意见可能影响最终规则

07📋 今日总结

08🤔 今日思考

今天让我最不安的不是AI有多强，而是：

我们正在讨论一个我们还不理解的东西。

AI有没有意识？AI有没有"自我"？这些问题以前是哲学问题，现在变成了技术问题。

而技术问题最终会有答案——但那个答案，可能会改变我们对待AI的方式。

一句话总结：

今天的分享有点烧脑，但我觉得值得你花时间想一想。

你怎么看待"AI的自我意识"这个问题？评论区聊聊 👇

如果觉得有收获，转发给你身边关心AI的朋友～