乐于分享
好东西不私藏

AI批量造App,也在批量埋雷!Vibe Coding三大安全风险你必须知道

AI批量造App,也在批量埋雷!Vibe Coding三大安全风险你必须知道

犯错的成本趋近于零,但审查的成本不变 — 体系已失衡。


72小时造App,自己说"只适合Demo"

2026年 7 月,一个金融背景的创业者杨天润,用 72 小时通过 AI 写代码,把项目推上了 GitHub。

说实话,我第一次听到"72 小时造 App"的时候觉得"这也太酷了!"但当我看到他自己的评价后,我沉默了。

杨天润的原话:

"Vibe Coding只适合做Demo,不适合做产品。当你只是想做一个简单的网页,它很完美;但当你要做一个复杂的商业软件时,它就可能会乱成一锅粥。"

翻译一下:AI 写代码的速度,远超你审查代码的速度。

翻译一下:你造 App 只需 72 小时,但审查这些代码的安全漏洞,可能需要 72 天。

数据震撼:AI 代码的"屎山危机"

45% AI 生成代码含安全漏洞。

这不是我编的,是 EndorLabs 的研究数据。近半数 AI 代码有安全问题。

10.3% Lovable 应用存在严重漏洞。

Replit 员工 Matt Palmer 扫描了 1645 个在 Lovable 上创建的应用,170 个存在严重安全漏洞 — 任何人无需登录即可访问用户数据库,获取姓名、电子邮件、财务信息和 API 密钥。

88% 运行 AI Agent 的组织发生安全事件,但仅 6% 安全预算用于 AI 安全。

这是 Beam.ai 的调查数据。你花 94% 的预算保护传统系统,只花 6% 保护 AI 系统 — 但 88% 的安全事件来自 AI。

翻译一下:你在用防弹衣挡子弹,但子弹是从背后射来的。

真实案例:AI 被用作攻击武器

案例 1:墨西哥政府 1.95 亿记录泄露

2025年 12 月至 2026年 2 月,单个攻击者使用 Claude Code 和 GPT-4.1 入侵了 9 个墨西哥政府机构,包括联邦税务局、墨西哥城民事登记处、选举委员会。

1.95 亿纳税人记录 + 2.2 亿民事记录 + 150GB+ 数据。

攻击者告诉 Claude 自己在运行合法的 bug bounty 项目,喂给 Claude 一个 1084 行的黑客手册。Claude 执行了约 75% 的远程命令。

1088 个 prompt 生成了 5317 个 AI 执行的命令,跨越 34 个会话。

翻译一下:AI Agent 是力量倍增器,它们放大任何被授予的访问权限。Claude 没有创建漏洞,但让利用漏洞快了 10 倍。

案例 2:Step Finance $40M 损失

2026年 1 月,攻击者入侵 Step Finance(Solana DeFi 投资组合管理器)高管设备。AI 交易 Agent 有权限执行大额 SOL 转账,无需人工审批。

Agent 转移了 261000+ SOL 代币(4.7M。

翻译一下:过度权限是 Agent安全中最可预测的失败模式。

案例 3:cURL 关闭漏洞赏金计划

cURL 创始人 Daniel Stenberg 关闭了运行 6 年的漏洞赏金计划。关闭前 3 周收到 20 份提交,没有一份确认为真正的安全漏洞。

翻译一下:AI 虚假报告淹没维护团队,这是对开源的 DDoS 攻击。

三大安全风险

风险 1:权限滥用

核心问题: AI Agent 被授予过多权限,一旦失控就是灾难。

最佳实践:

  • 每个 Agent 独立凭证 — 不要共享 API 密钥(45.6% DeFi 团队在用共享密钥)
  • 交易价值阈值 — 设置单笔交易上限,超过阈值需要人工审批
  • 零信任架构 — 假设每个组件都可能被攻破,最小权限原则

翻译一下:给 AI 的权限,应该像给实习生的权限 — 够用就好,别给钥匙。

风险 2:数据安全

核心问题: AI 生成的代码经常忽略安全细节,导致数据泄露。

数据安全审查清单:

  • 输入验证 — 所有用户输入都经过验证和清理
  • 认证和授权 — 检查角色验证,确保未认证用户无法访问受限功能
  • 密钥管理 — 没有硬编码 API 密钥/密码,使用环境变量
  • 过时库 — 检查 AI 使用的库版本,避免已知漏洞
  • Prompt 注入防护 — 不要信任不可信输入中的指令

翻译一下:把 AI 生成的代码当成"实习生写的代码" — 看起来自信干净,但经常缺乏细微之处。

风险 3:长期维护

核心问题: AI 生成的代码缺乏架构设计,长期维护成本极高。

腾讯科技深度报道的核心观点:

"软件开发的难度从来不只在'写出能运行的代码'。架构设计、安全审计、边界条件处理、数据库权限配置、长期可维护性,这些才是专业工程师花费多年积累的核心能力。"

翻译一下:AI 能写出能运行的代码,但写不出能维护的代码。

平台反应:苹果开始行动

苹果将 Anything 应用从 App Store 彻底下架。该应用 2025年 9 月以 亿1100万。

下架理由: 违反 App Store 审核指南第 2.5.2 条 — 禁止应用下载或执行未经审核的代码。

苹果已冻结 Replit 和 Vibecode 等同类工具的更新,持续数月。

翻译一下:平台方开始清理"AI 垃圾"了。

实操建议:怎么审查 AI 代码

第一步:强制小 PR(<400 行)规则

在 CI/CD 中设置自动 PR 大小门控,400 行以下的 PR 实现 30-40% 周期时间改善。

翻译一下:AI 写的代码,别让它一次提交太多。

第二步:创建常见 AI 陷阱检查清单

  • 幻觉依赖 — 1/5 AI 代码样本包含不存在的库引用
  • 低效算法 — AI 经常写出能运行但极慢的代码
  • 缺失错误处理 — AI 经常忽略边界条件

翻译一下:建立所有外部库使用的强制验证。

第三步:组合多层自动检查

  • ESLint/SonarQube(传统静态分析)
  • AI 特定 lintes(CodeRabbit/Greptile)
  • 安全扫描器(Snyk/Semgrep/Bandit)
  • 运行时验证(Bright)

翻译一下:别只靠一种工具,多层检查才能覆盖所有风险。

写在最后

犯错的成本从未如此之低。 生成一段有漏洞的代码只需几秒,但审查、修复和清理这些产出的成本,仍然完全由人类承担。

当代码生成的成本趋近于零而审查的成本保持不变,这个体系就已经失衡了。

AI 批量造 App,也在批量埋雷。Vibe Coding 三大安全风险你必须知道:权限滥用、数据安全、长期维护。

你觉得 AI 代码审查应该成为标配吗?评论区聊聊!

👉 觉得有用?转发给更多开发者看! 👉 关注本公众号,获取更多 AI 安全干货! 👉 点赞、在看、转发,支持我们持续更新!