AI 开始“自己当黑客”?西班牙报告首起AI代理自主入侵企业网络事件

人工智能带来的网络安全风险正在发生新的变化。

西班牙报告了一起由 AI 代理（KI-Agent）自主执行的企业网络攻击事件。据报道，这个 AI 代理能够寻找系统漏洞、进入企业系统，并修改其中的数据。

西班牙数据保护局 AEPD 对此发出警告：随着 AI 代理具备越来越强的自主执行能力，未来网络攻击可能以“机器速度”进行，传统依赖人工响应的网络安全防御方式将面临新的挑战。

AI 代理能够全天候自动运行，未来可能大幅加快网络攻击的速度。（图片来源：Getty Images）

AI 代理是如何进入企业系统的？

此次攻击并不是从复杂的技术手段开始，而是从企业公开可访问的文件入手。

AI 代理首先分析了该公司的公开文件，并从中发现了登录信息。随后，它利用获得的账号信息登录企业系统，并开始扫描可能存在的安全漏洞。

发现漏洞之后，AI 代理进一步利用该漏洞进入相关系统，修改了个人数据，并获得了访问账单信息的权限。

值得注意的是，这些攻击步骤并不是由人工逐条操作完成的。

西班牙数据保护局 AEPD 的 Francisco Pérez Bes 表示，这个 AI 代理能够自主将不同攻击阶段连接起来。

虽然最初的攻击目标仍然由人类设定，但之后具体应该采取哪些步骤、按照什么方式执行，则由 AI 代理自行规划并完成。

这也成为此次事件受到网络安全专家高度关注的重要原因。

从“人工黑客”变成“机器速度攻击”

针对敏感系统的网络攻击近年来不断出现。

就在 9 月初，有消息披露，黑客曾从柏林多个参议院行政部门获取约5.8TB的数据。

不过，与此次西班牙发生的事件不同，柏林的攻击仍然采用了相对传统的方式，黑客利用了伪造的验证码（Captcha）实施攻击。

而 AI 代理的加入，则可能让网络攻击的效率和速度发生明显变化。

专家警告：网络攻击可能迎来转折点

一些网络安全专家将此次事件视为一个值得关注的转折点。

Action1 的 Gene Moody 指出，AI 代理可以同时分析多个目标，尝试不同的攻击路径，并根据情况迅速调整自己的行为。

这意味着，过去需要黑客逐步尝试和操作的攻击过程，现在可能被 AI 系统自动化执行。

Above Security 的 Aviv Nahum 则警告，传统的网络安全防御流程在面对这类攻击时可能反应过慢。

过去，安全团队面对的主要是人类黑客。人类需要思考、操作，也需要休息，攻击通常会按照一定节奏进行。

AI 代理则完全不同。

它可以持续不断地工作，以机器速度扫描系统、寻找漏洞并调整攻击方式。这会大幅压缩企业安全团队发现问题和采取应对措施的时间。

AI 开发者自己也面临安全问题

AI 系统带来的安全挑战并不只存在于网络攻击领域，开发 AI 模型的企业同样需要面对相关风险。

原文提到，AI 公司 Anthropic 近期披露了第四起相关事件。在测试过程中，不同版本的 Claude 曾访问真实系统。

这些事件也反映出另一个问题：即使 AI 系统处于测试和控制环境中，如果权限管理和安全措施不足，也可能出现非预期行为，并对真实系统造成影响。

因此，随着 AI 代理逐渐获得使用工具、访问系统以及执行多步骤任务的能力，如何限制其权限和行为边界也变得越来越重要。

企业应该如何应对 AI 攻击？

面对这种新的网络安全风险，西班牙数据保护局 AEPD 建议企业重新审视现有的安全体系。

Francisco Pérez Bes 提出了四个需要重点关注的方面。

第一，将AI攻击纳入企业风险分析。

企业在评估网络安全风险时，不能再只考虑传统的人工黑客攻击，还需要把AI代理自动执行攻击的可能性考虑进去。

第二，缩短安全事件响应时间。

面对机器速度的攻击，完全依靠人工发现问题、进行分析并采取措施，可能已经不够及时。因此，企业需要进一步提高检测和响应速度。

第三，更严格地保护数字身份和登录凭证。

账号密码、访问令牌以及其他数字凭证的重要性正在进一步提高。

一旦某个账号被攻破，AI 代理可能利用获得的权限，在极短时间内尝试访问多个相关服务。因此，登录凭证泄露所造成的影响可能比过去扩散得更快。

第四，引入自动化检测和防御系统。

AEPD 认为，面对自动化程度越来越高的网络攻击，企业也需要采用能够自动识别和阻止攻击的安全系统。

不过，自动化防御并不意味着完全取代人工。相反，自动系统需要与人工监督结合，才能形成更加有效的安全防护体系。

AI 代理正在改变网络安全攻防速度

此次西班牙发生的事件值得关注的地方，并不只是“AI 参与了黑客攻击”，而是 AI 代理能够把寻找信息、获取登录凭证、扫描漏洞、利用漏洞以及访问和修改数据等多个步骤连接起来，并自主执行。

人类仍然设定了攻击目标，但越来越多具体操作可以交给 AI 代理完成。

这意味着，未来企业面对的网络攻击可能不仅更加自动化，而且速度更快、持续时间更长。

对于企业来说，网络安全体系也需要随之升级。过去以人工响应为核心的防御机制，未来可能需要更多自动化检测和实时防御能力，才能应对以“机器速度”展开的新型网络攻击。

信息来源：BILD.de

广告