AI生成的密码不堪一击,企业代码库或已埋下定时炸弹

刹客网络科技资讯

点击右侧关注，最新科技资讯！

Part01

警惕AI生成的伪随机密码

停止让AI为你选择密码。这些看似复杂的密码实则遵循可预测的模式，而非真正的随机生成，使得黑客能够轻易破解。

AI安全公司Irregular与卡巴斯基的两项独立研究得出了相同结论：所有前沿大语言模型生成的密码都存在结构性可预测问题，而标准熵值测量工具对其安全性评估存在严重偏差。更令人担忧的是，AI编程Agent正将这些凭证自主嵌入生产环境的基础设施中，而传统的密钥扫描工具却无法检测到它们。

Part02

密码生成的本质缺陷

Irregular公司在50次独立会话中让Claude Opus 4.6生成密码，结果仅产生30个不同的字符串。特定序列"G7$kL9#mQ2&xP4!w"重复出现了18次，重复率高达36%。若采用94个可打印ASCII字符的真正均匀分布，任何特定16字符序列在50次尝试中出现两次的概率几乎为零。这表明模型并非在生成密码，而是在检索密码。

LLM生成的密码表面上符合所有安全启发式标准：足够长度、大小写混合、数字符号组合、无字典可识别片段。自动检查工具往往给予极高评价。但问题不在于它们对传统威胁模型的表象，而在于面对理解自回归生成分布特性的攻击者时，这些密码的实际防护能力。

Part03

架构性不兼容问题

根本问题在于架构层面而非配置层面。NIST SP 800-90A Rev.1要求所有安全敏感的熵生成必须使用密码学安全伪随机数生成器(CSPRNG)，它能从真正均匀的分布中产生统计概率相等的每个字符。而大语言模型的运作原理与此完全相悖——它们被训练为根据累积上下文为最可能的后续token分配最大概率，这种机制使其完全不适合密码学应用。

Irregular的研究使用香农熵量化了这种差异：从94字符ASCII集中真正CSPRNG生成的16字符密码具有约98位熵值，而Claude Opus 4.6仅达到约27位，相对密码学基准缺失约72%。GPT-5.2的20字符密码熵值更接近20位，而常规强度评估工具(如zxcvbn库)却将这些密码评为98-100位，差距近一个数量级。

Part04

温度参数无法解决问题

有观点认为提高采样温度可缓解分布偏差，但Irregular的实验结果明确否定了这一假设。在Claude最高温度设置1.0下测试，有效熵值并无统计学意义上的改善。字符位置偏差编码于模型权重中，而非采样参数，温度调节仅在这些权重实例化分布的下游起作用。

卡巴斯基数据科学团队负责人Alexey Antonov的补充研究分析了ChatGPT、Meta的Llama和DeepSeek生成的1000个密码。字符频率直方图显示三者均存在明显非均匀性：ChatGPT偏爱字符x、p和L；Llama偏好井号和字母p；DeepSeek倾向t和w。温度设为0.0时，Claude每次调用生成完全相同的字符串。这些发现证实了漏洞的结构性本质。

Part05

自动化注入风险

更严峻的问题在于AI编程Agent在专业开发工具链中的自主凭证生成行为。当GitHub Copilot、Claude Code等Agent接收到涉及数据库初始化、容器服务配置或API引导的任务时，它们会作为功能前提自动生成凭证。这些凭证被嵌入Docker Compose环境变量、.env配置文件或Kubernetes密钥清单中，随后被开发者提交至版本控制系统——而开发者的注意力通常集中在功能正确性上，而非凭证来源。

OWASP 2025年LLM应用十大风险将不安全输出处理列为关键风险类别，这正是此类问题的体现——下游系统和流程未经适当验证就直接使用LLM生成的内容。Gitleaks和Trufflehog等工具无法标记这些凭证，因为它们仅针对已知密钥格式进行模式匹配，不具备评估字符位置熵分布的能力。

Part06

企业应对策略

企业可采取以下有序措施降低风险：

对2023年初以来所有AI辅助代码库进行回溯审计，重点关注配置文件、Docker Compose YAML和.env条目
轮换所有无法确认源自CSPRNG的凭证，仅接受Python的secrets.token_urlsafe()、openssl rand -base64和/dev/urandom等标准接口
修改AI编程工具系统提示和开发安全指南，强制要求所有凭证生成必须显式调用CSPRNG
增强静态密钥扫描能力，加入可评估字符位置分布的熵感知分析
通过企业协议渠道向LLM供应商施压，要求其将密码生成请求路由至CSPRNG后端

Part07

更深层的认知挑战

安全社区将LLM生成的密码称为"氛围密码"——具有真实性的表象却缺乏实质内容。这一现象反映了AI生成内容与安全敏感基础设施深度融合时面临的更广泛认知挑战：使大语言模型能够产生上下文适当、人性化可信输出的训练目标，在结构上与密码学安全所需的数学要求不相容——后者恰恰需要在模式和合理性无迹可寻之处实现真正的不可预测性。

安全社区亟需系统性地认识到：这一问题已大规模渗透至生产环境，需要立即采取有针对性的组织响应，而非仅停留在前瞻性政策层面。

点分享

点收藏

点点赞

点在看