安全研究人员发现,一个威胁行为者正在利用人工智能技术来测试端点检测与响应系统的绕过策略,并为此搭建了一个后渗透测试框架。检测到异常端点后,分析人员在用户目录下发现了多个恶意文件,这些文件指向一个以规避检测为核心的攻击框架。其中包括用于使信标流量伪装成正常网页请求的Cobalt Strike配置文件,一个通过Telegram基础设施路由通信而非直接连接的外部C2机制,用于将Shellcode注入合法Windows可执行文件同时保留原始功能的Python恶意软件开发脚本,以及一个用作前端重定向器来隐藏后端C2服务器的Cloudflare Worker。

设备上存在多个Python脚本,其中许多使用俄语编写,且部分由AI生成。进一步调查发现了一个Git仓库,其中包含与两个组件对应的工具和脚本框架:一个自动化活动目录发现面板,以及一个用于针对多个EDR代理进行迭代式恶意软件开发和测试的实验环境。研究人员分析认为,AI在恶意软件开发方面的作用相对有限,主要用于协调工作流和支持实验。实际的EDR绕过路径是一个结构化的工程测试周期,包含人工审查和迭代。
攻击者在其设备上使用了一套虚拟机系统,并利用一款AI原生集成开发环境Cursor来帮助开发绕过EDR代理的工具。开发过程涵盖恶意软件创建、测试、分析和改进。在识别出的测试环境中,攻击者设置了多个运行Windows Server的虚拟机,分别用于测试针对不同EDR代理的绕过技术,还有一个控制环境未安装任何EDR代理,以及一个运行Ubuntu的后渗透框架C2服务器。攻击者为框架内多个AI代理设定了操作参数并描述了角色和功能。一个使用大型语言模型的代理负责核心操作并为其他代理设定规则,另一个代理负责测试针对EDR代理的工具,其余代理提供运营安全强化、文档生成、代理压力测试和虚拟机部署等支持功能。代理生成的代码问题和提交通过模型上下文协议传递到Git仓库。
Git仓库中的工件表明,攻击者从多个安全研究博客中识别了潜在的绕过技术,信息也从社交媒体平台获取,但尚不清楚这些来源是否影响了工具开发。AI代理协调手册引用了从安全服务商博客中抓取的研究内容,AI代理被要求阅读文章、提取技术、映射到MITRE ATT&CK框架、基于现有仓库识别复现技术所需的步骤和工具、准备实验测试环境、执行技术并报告发现。
该框架的核心是一个用Python编写的工具,用于生成测试载荷,其中大部分载荷用Rust和Go编写。这个模块化的Windows载荷加载器生成器将原始载荷包裹在加密、规避和替代执行技术的多层保护中,生成旨在抵抗沙箱、杀毒软件和EDR检测的自定义可执行文件或DLL。每个载荷根据命令行中指定的规避技术生成。使用该工具开发了近80个不同模块,测试了70多种不同技术。代理报告显示初始成功率很低,但经过多次迭代后,这些模块据称几乎普遍成功绕过了EDR代理。然而,测试框架的记录输出并不完全支持这一结论。
与合法开发环境类似,攻击者使用AI编程助手来协助软件创建、测试、性能评估和修订。虽然这些工具表面上用于创建红队框架,但攻击者很可能使用了这一术语来规避AI助手围绕恶意软件开发设置的安全护栏。实际上,该框架是为目标环境中的隐蔽后渗透活动而构建的。安全研究机构已将此开发活动与已知的勒索软件部署和数据窃取行动关联起来。
AI代理加速工具开发和测试规避技术的使用,降低了复杂红队式攻击的进入门槛。但这一变化并没有改变防御者的防护方式。安全研究人员建议组织继续保持稳健的纵深防御机制,因为攻击者会利用控制框架中的任何缺口。AI使识别这些缺口变得更加容易和快速。及时打补丁、多因素认证、现代认证机制以及广泛部署有效的端点检测响应解决方案等基础措施仍然至关重要。
夜雨聆风