

近日,安全研究机构曝光了一起针对AI开发者生态的精准攻击事件:JetBrains Marketplace上出现了15个伪装成AI编程助手的恶意插件。这些插件潜伏在开发者熟悉的IDE环境中,一旦安装,便会悄无声息地窃取用户的AI提供商API Key。
这不仅是一次简单的恶意软件传播,更是AI供应链安全的警钟。当攻击者将矛头指向大模型服务的“钥匙”——API Key时,意味着AI服务入口的安全防线已被撕开裂口。


过去,我们关注的是大模型生成的内容是否合规、是否准确;如今,随着AI服务的普及,凭证泄露已成为比“模型幻觉”更致命的威胁。一旦API Key落入黑客手中,攻击者便拥有了调用企业AI服务的合法身份,可以发起各种深层攻击,甚至将AI服务作为跳板,进一步渗透后端基础设施。
从API Key泄露到基础设施沦陷
这起事件揭示了一条清晰的攻击链条:恶意插件窃取API Key → 攻击者获得AI服务合法身份 → 发起提示词注入或SSRF攻击 → 渗透后端K8s集群。
在典型的AI应用架构中,大模型服务通常作为中间层存在,连接着前端用户界面和后端数据库或企业内网。如果攻击者持有有效的API Key,他们就可以绕过传统的身份验证机制,直接与大模型服务进行交互。

攻击者可以利用合法的API Key做什么?
发起高级提示词注入:通过精心构造的Prompt,诱导模型泄露系统指令或执行越权操作。
利用SSRF漏洞:如果AI服务后端存在SSRF(服务端请求伪造)漏洞,攻击者可以诱导大模型访问内网资源,从而探测内网拓扑。
窃取敏感数据:通过RAG(检索增强生成)系统,非法访问企业的知识库文档,导致商业机密泄露。
这种“合法身份+恶意意图”的组合,使得传统的基于IP或频率限制的防御手段完全失效。因为对于后端服务而言,这些请求都是来自“可信用户”的正常调用。
传统安全工具的“语义盲区”
面对这种新型威胁,企业现有的Web应用防火墙(WAF)和数据防泄漏(DLP)系统往往显得力不从心。传统WAF主要防范SQL注入、XSS等基于HTTP协议的攻击,它无法理解自然语言的语义,也无法识别基于API Key的合法请求背后的恶意意图。而传统的DLP系统主要关注静态数据或网络传输中的敏感信息,对于动态的、基于AI交互的数据流转缺乏有效的监控手段。

AI服务入口需要一个专门的“语义防火墙”,它不仅要保护数据不被窃取,更要保护AI服务本身不被滥用。这就要求安全产品具备输入输出双边审查能力,既能拦截恶意的输入指令,又能防止敏感的输出泄露。
构建AI服务入口的“安全围栏”
针对上述挑战,闪捷信息推出的AI安全网关提供了全方位的防护方案。该网关部署在企业AI服务入口,通过三引擎协同审核机制,实现对AI流量的深度防御。
1、规则引擎:快速过滤
针对已知的高危关键词和基础恶意模式进行毫秒级拦截,作为第一道防线,高效过滤大量低阶攻击。
2、安全模型:意图识别
基于AI对抗AI的理念,利用专用的安全大模型对提示词进行深度语义分析。它能识破角色扮演、分步诱导、逻辑陷阱等高级话术,判断用户是否试图绕过系统限制。
3、语义模型:内容合规
在输出侧,对大模型生成的内容进行实时扫描,防止敏感数据(如身份证号、商业机密)通过自然语言“幻觉”或“泄露”出来,同时确保生成内容符合合规要求。

JetBrains恶意插件事件并非孤例,它揭示了AI供应链安全的严峻现实。当API Key成为攻击者的突破口,传统的边界防御已无法保障AI服务的安全。
企业需要像部署WAF保护Web服务一样,部署AI安全网关,为AI大模型服务加上“语义安全带”。闪捷信息AI安全网关,通过输入输出双边管控和三引擎协同审核,为企业提供“看得见、追得回、管得住”的安全保障。在AI时代,让智能真正变得可控,让数据在流转中依然安全。

闪捷信息科技有限公司成立于2015年,是国内AI数据智能领域的领军企业,公司秉承“让数据更智能、更安全”的使命,并构建AI数据智能产品及服务体系,已覆盖AI数据管理、AI备份、AI数据安全、AI数据决策等领域,系列产品广泛应用于政府、金融、能源、通信、智能制造、互联网、医疗、教育等行业。
咨询热线:400-811-8806
官方网站:www.secsmart.com
企业微信:secsmart99

夜雨聆风