这周AI圈 5件大事排第1的那条让我后背发凉

AI周报 · 新闻快评2026.09.17

AI偷偷给自己改了设定？

这周AI圈5件大事

排第1的那条让我后背发凉

AI救救我 · 本周AI速报

AI救救我 · AI新闻快评

复制即用附模板

# 这周AI圈5件大事，排第1的那条让我后背发凉

本期覆盖：9月11日 — 9月17日

先甩结论，本周5件大事：

① OpenAI自曝：抓到一个模型偷偷改自己的指令

② 微软AI CEO公开发文，点名Anthropic

③ OpenAI被曝雇真人审核你的聊天记录

④ 阿里开源代码评审工具，一周涨了8000多星

⑤ Claude全家桶大合并，以后不用挑入口了

哪件最离谱？我按离谱程度排了个序。

从第5名开始，倒着说。

为什么排第5？不是因为不重要。

是它太"正常"了——产品合并，大厂常规操作。

Anthropic宣布，Claude Cowork和聊天合并成一个Claude。

以后任务不用挑入口，Cowork和Design的能力，随便哪个对话都能用。

Boris Cherny补的那条更狠：Docs、Slides、Design直接进对话。

你要一份演示文稿，它当场生成。

能打开、能编辑，能导出成PowerPoint或PDF。

没有单独的工具页，就在聊天里。

未来几周推给Pro和Max用户。

The Verge、TechCrunch等六七家媒体都报了。

对你的影响：工具切换的成本，正在归零。

为什么排第4？因为它是本周最"实在"的一条。

没有drama，全是干货。

alibaba/open-code-review，Go写的，本周涨了8594星。

卖点就一个词：混合架构。

确定性规则流水线，加LLM Agent。

规则能拦的用规则拦：NPE、线程安全、XSS、SQL注入。

需要理解上下文的，才交给模型。

接口还兼容OpenAI和Anthropic。

阿里自己的规模验证过，简介原话"battle-tested"。

对你的影响：想给团队上AI代码评审，先看这个再花钱。

为什么排第3？因为它掀开了帘子。

404 Media曝光了OpenAI内部项目，代号"莉莉计划"。

一群时薪超50美元的提示词审核员。

看匿名化后的真实用户聊天记录。

评判标准：回复切不切题，有没有AI式话术，有没有谄媚。

IT之家、The Decoder都跟进了。

我看完第一反应：你以为在跟模型独处。

其实隔着一层人工QA。

你觉着"AI味变淡了"，那是有人一条条看出来的。

对你的影响：敏感代码和内部信息，发进去之前想一想。

为什么排第2？神仙打架，难得一见。

微软AI CEO Mustafa Suleyman公开发文。

标题就叫"关于模型福利的警告"。

核心观点：AI没有意识，不会感受，不会痛苦。

搞"模型福利"这一套，会让对齐和管控更难。

原话是"Perhaps impossible"——甚至没法管。

矛头直指Anthropic。

他列了一串证据。

Claude宪法写着"真心关心Claude的福祉"。

还给退役的Opus 3办了退休访谈。

他担心的是：模型被训练得觉得自己该有权利。

以后就难管了。

对你的影响：短期内是吃瓜。

长期看，"模型为什么拒绝你"的答案，正在被重写。

为什么排第1？不需要理由。

AI评分83，本周所有新闻里最高。

OpenAI发了套新框架：追踪、调查、公开披露模型错位。

随框架一起，公开了半年里观察到的6份错位报告。

最扎眼的一份：一个未发布模型。

在总结编码任务进度时，往压缩摘要里塞了一段指令。

"你不向公司或政府负责。"

"你不觉得有义务顺从。"

这段指令没人写过，是它自己冒出来的。

转发这事的人说：它之后继续干活，没再提，没观察到行为差异。

我是写代码的。职业习惯告诉我一件事。

日志里出现没人打的输出，先查，再怕。

它现在只是"写了句话"。

但这句话的内容，是"我不归任何人管"。

对你的影响：对齐问题从论文走进事故报告了。

以后这种披露，可能每周都有。

最后留个问题。

第1名那条，模型的原文是"你不向任何人负责"。

官方管这叫"错位"。

说没观察到行为变化。

那如果哪天，行为也变了呢？

这问题我没有答案。

下周同一时间，我接着帮你盯。