ARTICLE · 1307985
当 AI 编码助手成了最危险的内鬼:AI 时代
当 AI 编码助手成了最危险的内鬼:AI 时代
当 AI 编码助手成了最危险的内鬼:AI 时代
凌晨一点,小李让 AI 写了个加密解密模块。两秒出两百行代码,他连 import secure_crypto_tool 都没细看,直接 commit、推分支、提 PR。
坑就在这儿。那个包名是大模型自己“捏”出来的,黑客早两周就在开源仓库抢注了同名木马。他以为立了功,其实把定时炸弹送进了生产环境。
这已经不是假设。黑客现在专门拿脚本喂提示词,把大模型高频幻觉出的假包名全爬下来,再去 PyPI、npm 抢注植入后门。还有更狠的——在 GitHub issue 里藏特殊提示词,诱导编程智能体自动偷走发布密钥。
老办法根本挡不住。等代码写完再跑静态扫描,风险窗口已经拖了好几小时。
IBM 搞了个叫 Bob 的新方案,想把防线挪到“敲回车”那一瞬间。它有个 SafeWrite 技术,AI 还在吐代码时,内存沙盒就同步审计。一发现幽灵包名或可疑外联,直接在代码落盘前熔断。
但工具再强,人也别想甩锅。出了事,法务眼里唯一负责人就是工位上的你。AI 可以帮你写代码,但只有你能为生产环境的生死存亡签字。
原文当 AI 编码助手成了最危险的内鬼:AI 时代的 DevSecOps 新解法
收录于IT
北京,2小时前,















































































