ARTICLE · 1101943
AI 编程的安全、合规与最佳实践
前面十一天讲的都是"怎么快"。今天必须讲另一半:怎么不出事。
两者的性质完全不同。效率是能积累的——今天省一小时,明天省一小时。风险是一次性的——一次代码出境、一次密钥泄露、一次许可证纠纷,就能抵消掉一整年的效率收益,甚至让整个 AI 推进计划被叫停。
所以这一章不讲技巧,讲底线。
一、第一道红线:代码到底能不能出机房
这是所有讨论的起点,也是最多团队含糊过去的地方。动手前先回答三个问题:
① 代码涉不涉及敏感数据——客户真实数据、资质证照、财务与报价逻辑、算法参数,只要沾一样,就不能按"普通代码"处理。
② 公司有没有书面结论——口头同意不算。有制度、有审批、有责任人,才算。这一条最容易卡住,也最该先做。
③ 合同里有没有数据条款——投标文件、客户合同、保密协议里怎么写的?政务类项目尤其要看。合规问题一旦变成违约问题,性质就变了。
回答完再看部署形态怎么选:
以 CodeBuddy 为例,其企业版提供的能力正好覆盖后两行:私有化离线部署、可选本地模型推理(让源码不出机房)、传输加密、以及等保相关的合规资质。版本能力与报价以官方为准,官网可以预约 POC 环境做实测验证——建议在正式推广前先跑一轮 POC,把"能不能满足我们的合规要求"落到实测结论上,而不是停留在宣传材料里。
二、敏感信息脱敏:四类必须脱
不管用哪种形态,脱敏都是基本功。四类信息绝不能原样喂给 AI:
- 密钥类
:数据库连接串、API Key、Token、证书私钥——最高危,泄露即事故 - 内网信息
:内网 IP、域名、拓扑、库表真实结构——拼起来就是一张攻击地图 - 客户数据
:真实姓名、证件号、手机号、交易明细——法律风险最直接 - 商业信息
:算法参数、报价规则、成本结构——竞争情报
三个可执行的做法:① 造脱敏样本库(用假数据提问,真实结构不变);② 提问前先自查一遍(把配置类文件排除在引用范围外);③ 提交前扫描(用规则或脚本扫 diff 里的疑似密钥,禁止硬编码入库)。
一个特别容易踩的坑:把真实日志贴给 AI 排查问题。日志里往往混着手机号、证件号、完整请求体——你今天贴的是生产日志,它今天进的就是别人的服务器。用 Day 33 那套"现场数据"投喂方法没问题,前提是数据先脱敏。
三、生成代码的许可证风险
AI 生成代码的另一重风险在"来源":模型训练数据里包含大量开源代码,生成结果可能与某段受许可证约束的代码高度相似。三条实用原则:
- 高风险区重点查
:加密算法实现、压缩与序列化库、UI 组件、复杂算法——这些领域训练数据密集,撞库概率更高 - 引入前查相似度
:对高风险代码做一次查重(含开源代码库比对),结论留档 - 敏感产品提前过法务
:商业软件、对外交付产品,把"AI 生成代码的许可证审查"写进发布流程,而不是出事再补
四、AI 代码安全审计清单:六个高发区
这张表可以直接当 Day 35 智能评审的检查维度配置——审计清单和审查规则是同一份东西的两种用场:人查用清单,自动查写进规则。
五、可靠性验证:三道闸,没有例外通道
一条硬规矩:AI 生成的代码,必须过了编译、测试、review 三道闸才能合入。
"紧急"不是例外——恰恰相反,越紧急越要守。赶工期时放松验证,是 AI 时代最容易发生的质量事故形态:以前的紧急改动至少是人写的,人对自己写的东西有直觉;AI 生成的代码你没有那个直觉。
前面十一讲的工具正好构成这条流水线:Day 32 的 /tests 补测、Day 33 的闭环验证、Day 35 的自动评审。三道闸不是额外负担,是把已建好的能力串成制度。
六、过度依赖与技能维护
接一个不太好回答的问题:如果 AI 帮你写完了,你还会写吗?
三条做法,成本都不高:
- 每周留一段"不用 AI 手写"的时间
:挑一个小的、非紧急的功能,从设计到编码自己走一遍,保持手感 - 把 AI 代码当学习材料读
:看到不熟悉的写法,追问"为什么这么做、有什么替代方案"——把一个工具用成一位家教 - 坚持自己定方案
:架构决策、边界取舍、异常策略,这些必须出自你的判断(Day 30 的结论:"AI 管算术,人管承诺")
一个判断标准:如果 AI 明天全部下线,你的项目还能不能继续推进? 能,说明你在用它;不能,说明你依赖它。这个区别,在顺利的时候看不出来,在出问题的时候决定生死。
七、十条军规
八、模板与检查清单
AI 编程安全合规清单(可打印):
□ 公司已有书面结论:允许/禁止/有条件使用,明确到数据范围
□ 项目已判定敏感级别,选定了对应部署形态
□ 涉敏感项目已完成 POC 实测(含私有化 / 本地模型推理验证)
□ 脱敏样本库已建立,日志外传前必脱敏
□ 密钥与凭据已纳入提交前扫描,命中即拦截
□ 高风险代码引入前做过相似度查重,结论留档
□ 依赖版本已核对 + 漏洞扫描已跑
□ 编译 / 测试 / review 三道闸写进流程,无例外通道
□ 架构与业务决策仍由人拍板
□ 每周手写练习已排进日程
□ 试点团队已跑通完整流程,再谈推广
企业版 / 私有化选型问询清单(向厂商问这几条):
① 部署形态:支持公有云 / 私有化 / 本地模型推理中的哪几种?
② 数据留存:代码与对话内容保存多久?可否关闭留存、可否审计?
③ 模型可控性:可选哪些模型?本地推理是否支持自有模型?
④ 合规资质:等保、传输加密、权限与审计日志提供到什么程度?
⑤ 落地验证:能否提供 POC 环境做实测?周期与条件是什么?
⑥ 报价与版本:以官方为准,重点问"哪些能力只在企业版"
明天 Day 38:《第三阶段总结与全系列收官》——三阶段全景、个人 AI 开发工作流全景图、38 天效率账单,以及后续方向。