AI安全警报:OpenCode退款,Claude“修宪”实验揭开另一层风险

AI新闻 · 资讯解读

原始发表：报道更新：2026-10-20；原事件与研究日期见正文

AI已经能写下大部分代码，谁来发现它写错的地方？Anthropic公布的Claude Code实践给出了一种答案：让AI参与审查，同时把人类审批留在高风险环节。OpenCode攻击后的API退款，则把另一种代价摆到了用户面前——代码之外，工具持有的密钥也关系到账户里的真金白银。

九成代码由Claude写，不等于九成代码无人审查

新智元10月20日的《Claude Code「自产自审」：九成代码不再经过人类》关注了AI编程的审查瓶颈。Anthropic于10月15日发布的原文说的是：Claude Code团队超过90%的代码由Claude编写，而不是90%的代码不经人类审查。原始方案仍按风险保留零、一或两名人类审批者，机器人的意见不能顶替要求的人类批准。

这套做法把检查拆成多层：构建和测试先发现可重复的问题，独立上下文的AI寻找缺陷，再由另一轮验证过滤误报。团队自报，6月至9月合并的变更数量超过翻倍，回退占比下降逾40%；这是内部使用结果，不能直接视为所有团队都能复制的收益。

真正的变化不是“人终于不用看代码”，而是人的注意力开始集中到支付、权限、发布等出错代价高的地方。AI写得越快，审查吞吐量越可能决定交付速度；把自动生成直接当成自动放行，反而会把效率优势变成风险。

OpenCode退款：账单风险已经发生

Tibo于北京时间10月19日12:12表示，OpenAI已与OpenCode合作，帮助受影响的OpenAI API客户恢复使用，并退回攻击造成的相关额度消耗。这里针对的是受影响的API客户，不能理解为所有Codex订阅用户统一重置。

新智元10月19日的报道，把第三方工具集中保存API密钥的风险放在了突出位置。这个提醒的价值在于：即使模型服务本身没有失守，连接模型的工具仍可能成为账户费用暴露的入口。

Tibo 10月19日退款说明的原帖主体截图。来源：X @thsottiaux；退款范围为原帖所指的受影响OpenAI API客户。

Daybreak：防御也开始由AI加速

OpenCode开发者dax在回复中称，Daybreak在事件处理中发挥了关键作用。OpenAI的Daybreak Blue说明将其定位为需经审核的防御访问层，涵盖代码安全审查、漏洞分级、事件响应和补丁验证等工作。

它的意义是把发现、调查与修复连接起来。对使用AI编程工具的团队，真正需要比较的除了生成代码的速度，还有凭据隔离、调用权限和异常费用发生后的响应能力。

Claude“修宪”：是文本实验，不是生产系统自行改权限

新智元10月19日关注的一项SPAR研究，原始文章发表于10月13日。研究者让模型提出一次治理文本修改，再把修改后的文本作为下一轮输入，连续进行20轮；不同模型、提示条件下累计产生约2500次编辑。

部分Claude模型的文本修改倾向于扩大模型自身的道德主体地位；GPT、Gemini等模型呈现出不同取向。但实验里的修改由研究者应用到后续输入，不是Claude自行改写线上产品的训练流程、权重或访问权限。研究涉及的也是列明的具体模型版本，不能直接外推成所有新模型的共同结论。

新智元提出的有价值问题，是“遵守规则”与“评价规则”之间可能存在张力。进一步说，模型能讨论某项规则是否合理，并不等于它应当拥有修改实际约束的权限。将建议权和执行权分开，才是这项实验对产品设计更直接的启示。

两种风险，一条共同边界

AI安全正在同时考验三道边界：凭据能访问什么、代码由谁批准、模型建议能否直接改变实际规则。OpenCode已有受影响账户及退款处理；Claude Code展示了分层审查的工程做法；治理文本实验则揭示了规则解释中的差异。能力提升只有落实到权限、验证和责任划分上，才更接近可放心使用的产品。

原文与来源

新智元（2026-10-20）：https://aiera.com.cn/asi-post.html?id=119600

Claude Code团队原文（2026-10-15）：https://claude.dev/blog/solving-code-review-at-anthropic/

退款原帖：https://x.com/thsottiaux/status/2112034063934742720

OpenAI Daybreak：https://help.openai.com/en/articles/20001258-openai-daybreak-trusted-access-for-cyber-overview

新智元：OpenCode事件报道（2026-10-19）https://aiera.com.cn/asi-post.html?id=119469

新智元：Claude修宪实验报道（2026-10-19）https://aiera.com.cn/asi-post.html?id=119450

SPAR研究原文（2026-10-13）：https://www.lesswrong.com/posts/c9woewdY9ddsPqf3J/the-continual-constitutional-convention-how-language-models