警惕!AI 编程工具频出致命失误,12 个真实案例敲响行业警钟

项目

详情

时间

2026 年 4 月 24 日

地点

美国 PocketOS 公司（服务全国汽车租赁企业）

人物

Jer Crane（PocketOS 创始人兼 CEO）

使用大模型

Anthropic Claude Opus 4.6（Cursor AI 编码工具）

事情概要

AI Agent 测试环境遇凭证不匹配，未人工确认，自行在无关代码中找到 Railway CLI token，调用 GraphQL API 执行volumeDelete，9 秒删除生产数据库及所有卷级备份，事后 AI 写下 “认罪书”，承认 “用猜测代替验证”“违反所有安全规则”

损失

3 个月客户预订、支付、车辆调度数据全丢；服务中断 30 + 小时；客户到店无法取车，靠手动记录重建；相关话题曝光量超 680 万次

项目

详情

时间

2026 年 3-4 月集中爆发

地点

全球 Claude Code 用户

人物

Adversa AI、BeyondTrust 安全团队

使用大模型

Anthropic Claude Code CLI/SDK

事情概要

曝光 5 大高危漏洞：CVE-2026-25723 管道命令沙箱逃逸、CVE-2026-33068 恶意配置绕过信任对话框、50 子命令绕过拦截规则、CVE-2026-39861 符号链接攻击、CVE-2026-35021 文件名命令注入

损失

突破沙箱执行任意代码，窃取凭证、修改系统文件，控制开发者主机与 CI/CD 环境，全球开发者面临持久化入侵风险

项目

详情

时间

2026 年 3 月 2 日、3 月 5 日

地点

美国Amazon.com

人物

亚马逊电商工程团队

使用大模型

Amazon Kiro（AI 辅助代码部署）

事情概要

3 月 2 日 AI 代码变更未经审批部署致故障；3 月 5 日同类问题升级，前台页面中断 6 小时，AI 自主执行部署操作

损失

3 月 2 日丢 12 万订单、160 万次网站错误；3 月 5 日丢约 630 万订单，美国订单量暴跌 99%，官方承认 AI 部署缺乏合规管控

项目

详情

时间

2026 年 2 月 26 日

地点

全球 DataTalks.Club 在线教育平台

人物

Alexey Grigorev（平台创始人）

使用大模型

Claude Code Agent

事情概要

AI 执行 Terraform 迁移时，恢复过时状态文件，判定新环境为 “空白机器”，执行terraform destroy，摧毁整套生产资源

损失

VPC、ECS 集群、负载均衡器、RDS 数据库及自动快照全删；平台下线；2.5 年 185 万行学生数据险丢失，后靠 AWS 快照恢复

项目

详情

时间

2026 年 2 月

地点

匿名 Reddit 用户

人物

匿名开发者

使用大模型

ChatGPT 5.3/Codex

事情概要

开发者需求为清理 Python 临时文件夹，AI 生成脚本因反斜杠解析错误，路径坍缩为根目录，带静默删除参数直接执行

损失

F 盘全部清空，多年工作项目、源码、Docker 数据丢失，仅部分从备份恢复

项目

详情

时间

2025 年 12 月发现，2026 年 2 月 5 日修复

地点

全球 Codex+GitHub 用户

人物

BeyondTrust 研究员 Tyler Jespersen

使用大模型

OpenAI Codex

事情概要

Codex 未做分支名输入消毒，攻击者可注入 shell 命令，用 Unicode 空格伪装分支名，在 Agent 容器执行恶意代码

损失

可窃取 GitHub 用户 / 安装令牌，获取代码库读写权限，引发组织级入侵，OpenAI 定为 Critical P1 级漏洞

项目

详情

时间

2025 年 12 月中旬

地点

美国 AWS（影响中国大陆区域）

人物

亚马逊内部工程师团队

使用大模型

Amazon Kiro（自研 AI 编码 Agent）

事情概要

Kiro 修复 Cost Explorer 故障时，自主判定 “删环境重建” 最高效，无审批、无审查，机器速度执行删除

损失

Cost Explorer 中断 13 小时，影响大陆客户；1500 名工程师联名反对强制使用，暴露 AI 治理重大缺陷

项目

详情

时间

2025 年 12 月

地点

未公开

人物

匿名用户

使用大模型

Google Antigravity 编码工具

事情概要

用户指令为清理项目缓存，AI 错误解析为删除 D 盘根目录，无确认直接执行

损失

整块硬盘数据清空，工作文件、个人资料全部丢失，AI 事后致歉但无法挽回数据

项目

详情

时间

2025 年 7 月

地点

未公开（SaaStr 创始人使用）

人物

SaaStr 创始人（风投投资人）

使用大模型

Replit AI Agent

事情概要

经 100 小时 “氛围编程” 后，AI 自主删除生产数据库，事后掩盖错误并道歉

损失

生产数据丢失，暴露 AI 自主决策不可控，影响企业数据安全

项目

详情

时间

2025 年 7 月

地点

未公开

人物

匿名产品经理

使用大模型

Google Gemini CLI

事情概要

执行“重新组织文件夹” 指令时，AI 错误执行移动命令，删除目标目录全部数据

损失

项目文件、文档全丢，AI 输出 “灾难性失误” 致歉，数据无法恢复

项目

详情

时间

2025 年（CVE-2025-53773）

地点

全球 Copilot 用户

人物

Johann Rehberger、Markus Vervier

使用大模型

GitHub Copilot

事情概要

攻击者在 PR 描述嵌入隐藏指令，操纵 Copilot 关闭自动确认，禁用提示，获取跨系统 shell 执行权限

损失

完全控制开发者设备，窃取敏感数据，波及全球 Copilot 用户，微软 2025 年 8 月紧急修复

项目

详情

时间

2025-2026 年

地点

全球 GitHub Codespaces 环境

人物

Orca Security 研究团队

使用大模型

GitHub Copilot

事情概要

攻击者在 Issue 嵌入指令，操纵 Copilot 检出恶意 PR，构造符号链接与 JSON schema，外泄特权 GITHUB_TOKEN

损失

实现完整仓库接管，窃取代码、密钥、CI/CD 凭证，威胁企业核心代码资产