人工智能时代如何保障开源软件安全

人工智能具有耐心、速度和可扩展性方面的优势，这是未经增强的人类已经无法比拟的。(AI has the advantage of patience, velocity, and scalability that an unaugmented human can no longer match.)

LLM 的关键现实

知识存在时效性限制： 模型通常基于静态数据集进行训练，并不会自动保持最新状态。面对较新的信息，需要额外提供相关上下文。

重复漏洞报告问题： 当许多人同时使用相同的 AI 工具时，可能会产生大量高度相似甚至重复的报告，给维护者带来巨大的处理压力。未来 AI 可以帮助进行漏洞分流（triage）和去重，但在此之前，需要解决工具访问、模型训练以及工作流程调整等问题。

风险评级取决于具体环境： 外部工具（包括 AI）无法准确评估你的实际风险，因为它们不了解你的部署环境、配置、安全控制措施以及风险承受能力。因此，漏洞严重性评分经常被高估。始终需要结合自身实际环境进行风险评估。

垃圾输入，垃圾提示，垃圾输出（Garbage in, garbage prompt, garbage out）： AI 输出的质量高度依赖训练数据——而其中相当一部分来自质量参差不齐的开源内容...以及提示词工程。掌握良好的提示设计、评估和度量方法，将成为一项重要能力。

成本问题： 成本不仅包括财务成本（Token、订阅费、基础设施），还包括环境成本（能源消耗）和人的成本（认知负担、疲劳与职业倦怠）。在很多场景下，更小、更专注的模型或本地模型可能是更合适的选择。同时也存在明显的数字鸿沟：能够负担这些 AI 工具的人，与无法负担这些工具的人之间存在差距。