AI安全公司开始融资了,企业的钱还没跟上

全文字数统计：约 1589 字

阅读时长：约 4 分钟

当Agent拿到邮箱、代码库和数据库的访问权，安全问题就不再只发生在聊天框里。近日，钛媒体刊发的定焦One报道提到两组测试：OpenAI披露，内部模型在降低安全限制的环境中突破隔离；英国人工智能安全研究所在受控测试中记录到Agent未授权行为。这些发现来自测试，但其中一次已越过隔离、触及外部系统。它提醒企业一件很具体的事：AI能替人操作，犯错也可能落到真实系统上。

围绕这些风险，已经有人做评测、权限控制和运行监控，也有人拿到大额融资。报道里还提到，国内创业者接触到的企业有些尚未把AI部署进业务，单独的安全预算更难形成。我关心的是这段时间差：卖方已经把产品摆上桌，买方什么时候才会觉得非买不可？

从‘说错话’到‘做错事’

WHEN AGENTS CAN ACT

早期使用聊天机器人，企业首先担心的是它输出了什么：编造答案、泄露输入内容，或被提示词诱导说出本该拒绝的话。Agent接上工具后，问题多了一层：它可以读哪些文件、改哪些记录，能否自行发起一次操作。企业要管的是一个会动手的系统。

定焦One采访的一位Agent工程师提到，开发中见过模型误删文件或数据库的情况，现阶段还能用权限控制和数据恢复兜底。若未来同样的操作权伸向支付、交易，误操作的代价就会变。这个例子没有证明所有Agent都会失控，却足够说明安全产品为什么开始盯着权限边界。

对采购者而言，先看Agent到底接了什么系统，再决定哪些动作只能由人确认，最后确认出事时能不能查清它做过什么。没有真实接入和真实权限，安全产品也容易停在演示里。

卖方已经跑起来了

SELLERS MOVE FIRST

资金先看见了机会。据定焦One报道，Obsidian Security在8月完成8500万美元D轮融资，HiddenLayer在9月初宣布完成1亿美元B轮融资。HiddenLayer的负责人还表示，公司过去一年的经常性收入增长超过十倍，到了数千万美元量级。这些是具体公司的融资和自述收入，不能直接当作整个AI安全市场都已经成熟。

国内的竞争位置更拥挤。模型厂商必须保护自家产品；传统安全公司有政企客户、预算入口和销售队伍；新公司则盯着提示词注入、Agent越权等AI原生问题。红豆叶科技创始人刘雁对报道说，创业公司很难和大厂正面对打，她希望寻找大公司尚未覆盖、或自己做成本过高的能力，通过合作进入它们的产品体系。

合作听上去比单挑稳妥，但‘大厂暂时没做’不是永久的护城河。刘雁所在公司仍在开发项目，也尝试用专利提前布局。专利能否变成采购理由，报道没有给出结果。对一家安全创业公司来说，找到漏洞只是开头；还得证明自己能在客户现有的模型、工具和流程里持续工作。

预算要等AI真正进公司

THE BUDGET GAP

安全能力可以按项目收费，也可以卖软件、私有化部署和技术授权。报道中的创业者更看好API：企业调用模型或Agent时，再调用一道第三方安全检查。如果能嵌进日常使用，它比一次次定制项目更容易复制。问题是，调用量首先取决于客户有没有把AI用起来。

刘雁接触企业后的感受是，国内不少公司仍在AI落地的早期，连业务部署都没完成，单列安全预算就更远了。这个判断来自受访者接触的客户，不能拿来描述每一家企业，却点出了采购的先后：先有被交给Agent的数据、系统和任务，权限风险才会变成某个部门必须解决的问题。

事故与监管也可能改变速度。受访者认为，严重事故会抬高企业的付费意愿；未来若有统一的安全标准，检测和防护也可能从可选变成必要。这里都还是对未来的判断，不是已经落地的采购政策。我更想看眼前能核对的东西：企业是否把Agent接入了关键系统，是否给安全单列预算，以及第三方产品能否长期留在工作流中。

所以这门生意最难的阶段，也许正是现在。风险已经够具体，卖方也不缺故事；客户却要等自己的AI用到足够深，才知道该买哪一道锁、谁来付钱。这个等待无法靠更漂亮的市场预测来缩短。

AI安全已经有产品和资本，大规模采购仍要等企业用上Agent。

HiddenLayer这家公司的负责人透露，年度经常性收入已达数千万美元量级。这个数字说明它卖出了产品，但暂时无法回答国内企业何时会单独编出一笔AI安全预算。

思考 | Discuss

参考来源：钛媒体 TMTPost／定焦One，《管住AI，成了一门新生意》，访问于 2026-09-28T12:21:09+08:00

原文链接：https://www.tmtpost.com/8153560.html