Palantir:让软件安全跟上AI

Palantir与问题背景

Palantir为政府机构和企业提供数据运营、软件生产与人工智能平台。本文讨论其自身软件安全实践，以及面向客户的 Security Forge。AI coding 和智能体让代码分析、漏洞发现及多阶段攻击路径推演的速度，超过人工团队逐项审查的能力。安全瓶颈因此从「能不能找到问题」转向「能不能把确认的问题及时修好并部署」。

Palantir称，其 Product Security Team 已把 agentic AI 用于 RFC 与工程评审、源代码分析、CVE 分诊、补丁开发和渗透测试。早期最稳定的价值来自代码审查和漏洞分析：发现能落到具体代码路径，审查过程还会积累服务关系、信任边界、历史结论和修复原因，供后续设计评审与动态测试使用。

从模型到受控审查流程

文章强调，模型本身不是安全审查计划。Palantir用 AIP 作为 harness，也就是包住模型的软件、指令、工具、数据权限和控制机制。Foundation 阶段先盘点仓库、依赖、接口、认证路径、部署环境和设计材料，形成威胁模型与攻击面。

Hunt 阶段并行调度专长不同的智能体，分别追踪授权决策、不可信解析、出站请求、密钥处理或依赖行为。候选结果经过独立验证和质疑。去重不只看语义相似度，还比较 source-to-sink 路径，即不可信输入如何到达产生风险的操作；独立 judging agent 再评估证据和可利用性。Synthesis 阶段过滤误报、合并相关弱点，输出攻击路径、严重性和修复建议。

模型访问代码、构建系统、部署元数据或隔离测试环境时，也要按阶段受控授权并保留证据。Palantir同时提醒，智能体具有概率性，单次成功分析不等于完整覆盖；不同模型、重复运行和交叉比较仍然必要。

上下文与修复闭环

Palantir使用 Foundry 建立网络防御的 Ontology，把产品、服务、仓库、评估、发现、证据、负责人、分诊决定、补丁和部署状态连接起来。工程师确认或驳回发现时，理由沉淀为有 lineage 的结构化知识，而不是留在聊天记录里。后续审查即可复用可达性判断、接受风险和历史修复。

文章还主张保持安全上下文的主权。数据、决策逻辑、审计轨迹、部署环境和累积记忆属于组织自己的「alpha」。模型可以替换，但这些资产不应随外部托管模型流失。

Apollo 则同时承担环境监测和已验证修复的交付，负责部署、升级、回滚、健康检查，以及在连接和断开环境中分发软件。补丁、配置变更或主机隔离先分阶段、检查健康状态并授权，再进入生产，并留下变更记录。检测与修复共用可审计控制面，才承接得住 AI 带来的发现增量。

工程团队的落地顺序

原文建议先建立软件清单，连接仓库、服务、依赖、负责人、已部署版本和运行环境；再从能绑定具体代码路径、可由工程师复核的有限任务开始。为模型设置分阶段权限、证据留存、独立质疑和去重机制，并用相同目标和已知安全案例比较多个模型及重复运行，记录覆盖率、验证率、成本、耗时和重复率。

之后，把误报、可达性判断、接受风险、缓解措施和修复结果纳入治理系统，让安全与产品工程师共享分诊和变更流程。通过验证的修复沿用正常发布、监控和回滚控制。成功标准不是发现数量，而是已部署软件中的可验证风险是否下降，以及修复是否快速、可靠、可追踪。

扩展阅读：

Palantir Blog：Securing Software at the Speed of AI（https://blog.palantir.com/securing-software-at-the-speed-of-ai-0b1d7ddd2bf0?gi=3425ae2cfc2f&source=rss----3c87dc14372f---4）
Palantir Blog canonical URL（https://blog.palantir.com/securing-software-at-the-speed-of-ai-0b1d7ddd2bf0）
Palantir Security Forge（https://www.palantir.com/security-forge/）
Palantir AIP Platform（https://www.palantir.com/platforms/aip/）
Palantir Foundry Platform（https://www.palantir.com/platforms/foundry/）
Palantir Apollo Platform（https://www.palantir.com/platforms/apollo/）
Institutional Sovereignty in the Age of AI（Palantir PDF）（https://www.palantir.com/assets/xrfr7uokpv1b/7BF74dqccPeVFMHRmy7FO3/2a33ff9b4f9e11ba904445e637095960/Palantir_-_Institutional_Sovereignty_in_the_Age_of_AI.pdf）

💡 核心要点：

AI智能体让漏洞发现加速，安全瓶颈转向已验证修复的部署与治理。
AIP用多智能体分工、独立质疑、证据留存和source-to-sink去重组织审查。
Foundry沉淀组织上下文，Apollo把批准的修复纳入可审计发布、健康检查和回滚闭环。

#AI安全#软件供应链#代码审查#安全工程

来源：Palantir Blog 原文：https://blog.palantir.com/securing-software-at-the-speed-of-ai-0b1d7ddd2bf0?gi=3425ae2cfc2f&source=rss----3c87dc14372f---4