夜雨聆风学习资料网

ARTICLE · 1307985

当 AI 编码助手成了最危险的内鬼:AI 时代

当 AI 编码助手成了最危险的内鬼:AI 时代

当 AI 编码助手成了最危险的内鬼:AI 时代

凌晨一点,小李让 AI 写了个加密解密模块。两秒出两百行代码,他连 import secure_crypto_tool 都没细看,直接 commit、推分支、提 PR。

坑就在这儿。那个包名是大模型自己“捏”出来的,黑客早两周就在开源仓库抢注了同名木马。他以为立了功,其实把定时炸弹送进了生产环境。

这已经不是假设。黑客现在专门拿脚本喂提示词,把大模型高频幻觉出的假包名全爬下来,再去 PyPI、npm 抢注植入后门。还有更狠的——在 GitHub issue 里藏特殊提示词,诱导编程智能体自动偷走发布密钥。

老办法根本挡不住。等代码写完再跑静态扫描,风险窗口已经拖了好几小时。

IBM 搞了个叫 Bob 的新方案,想把防线挪到“敲回车”那一瞬间。它有个 SafeWrite 技术,AI 还在吐代码时,内存沙盒就同步审计。一发现幽灵包名或可疑外联,直接在代码落盘前熔断。

但工具再强,人也别想甩锅。出了事,法务眼里唯一负责人就是工位上的你。AI 可以帮你写代码,但只有你能为生产环境的生死存亡签字。

原文当 AI 编码助手成了最危险的内鬼:AI 时代的 DevSecOps 新解法
收录于IT
北京,2小时前,

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料