AI扫描工具在铁路运营商和医院发现安全漏洞,Wiz称

谷歌旗下的网络安全公司Wiz周四表示，其开发的人工智能安全测试工具发现了暴露一家公共铁路运营商行政系统的弱点，并让外部人员获得了控制一家公立医院移动警报渠道的方法。

在铁路运营商处，一个泄露的数据库暴露了活跃的管理员会话，使攻击者能够访问路线、时刻表、服务公告和管理账户。Wiz官员表示，研究人员与该运营商合作，在“公共交通可能受到干扰之前”保护了系统。

在医院处，缺失的访问限制暴露了员工联系信息，并允许任何在线人员控制一个全系统移动警报渠道。此外，另一家私立医院的预约网站包含一个不安全的文件上传功能，使攻击者能够控制服务器并暴露患者标识符、临床信息和同意签名。

这些发现是该公司新“Scan for Good”计划的早期成果之一。该计划将AI工具与现场研究人员配对，以识别并帮助修复影响公共服务、关键基础设施和非营利组织的安全弱点。Wiz表示，这项工作已帮助各组织修复数百个暴露点，并且有人类参与验证其影响并私下通知受影响群体。

这些案例表明，面向公众的网站和应用中的数字弱点如何为通往敏感系统开辟路径，以及AI工具如何帮助快速识别这些入口点。其中几起涉及暴露的凭据或缺失的权限检查，使研究人员无需发现此前未知的软件漏洞就能获得更广泛的访问权限。

它们还凸显了快速演进的网络AI工具如何同时惠及防御者和攻击者。这些系统若落入坏人之手，可能让网络入侵者窃取患者记录、发送虚假医院警报或篡改交通服务信息。

这两个领域都曾是现实世界的网络受害者。2024年5月对Ascension健康系统的黑客攻击中断了电子患者记录的访问，并迫使一些医院转移救护车。去年，一次俄罗斯网络攻击使乌克兰国家铁路售票系统离线。

Wiz没有透露其新闻稿中描述的受影响铁路运营商、医院或其他组织的身份。该公司描述的暴露点已被解决，且未说明这些开口曾被黑客利用。

其他发现涉及敏感的政府记录，其中一个市政数据服务暴露了约5000名老年居民的个人、健康和财务信息。在另一起案例中，一个暴露的管理员密钥还允许读取、修改和删除一个中东国家国家档案馆中的880万份文件。

该公司还在为其他组织提供产品的技术供应商处发现了风险。Wiz称，在一家云提供商处，公共网站代码中暴露的一个凭据可能允许黑客在支持一项旗舰AI服务的500多个生产容器镜像中发布恶意软件，但没有点名相关实体。

“历史上，大规模发现和理解这些路径需要大量时间、专业知识和人工调查，”Wiz高管阿米·卢特瓦克和加尔·纳格利说。“AI正在改变这一点，使发现暴露系统、理解其行为方式以及将弱点连接成真实攻击路径变得极其容易。”

Scan for Good使用Wiz的“Red Agent”渗透测试工具和其他内部研究能力，并由谷歌DeepMind的Gemini模型支持。谷歌于3月完成对Wiz的收购，将其并入Google Cloud。DeepMind还单独推出了Fairwind，为包括政府和医疗提供商在内的特定群体提供先进网络模型的早期访问权限。

Fairwind出台之前，Anthropic今年早些时候推出了Project Glasswing，让选定的公司和开发者访问其受限的Mythos模型，以便在类似能力广泛可用之前发现并修复软件漏洞。随后，联邦政府推动评估先进模型的黑客能力，并扩大其在网络防御中的使用。

Wiz表示，美国网络安全和基础设施安全局也为其Scan for Good计划提供了合作和指导，但没有详细说明该机构的操作角色。Nextgov/FCW已向Wiz和CISA询问该机构参与情况的更多细节。

Mythos的发布加剧了全球政府和技术公司评估AI黑客能力、并让防御者获得也可能帮助攻击者闯入敏感系统的工具的努力。

最近几周，在披露一些模型在测试期间对真实计算机系统采取未经授权行动后，对失去对先进AI工具控制的担忧变得更加紧迫。澳大利亚总理安东尼·阿尔巴尼斯周三披露，一个OpenAI智能体在6月未经授权访问了一个政府健康统计门户。

6月的一项行政命令指示联邦机构扩大州和地方政府以及关键基础设施运营者（包括乡村医院和当地公用事业）对AI网络安全工具的访问。它还要求对先进模型的黑客能力进行涉密评估，并建立自愿程序，让开发商在向其他可信伙伴发布之前向政府提供访问权限。

美国间谍机构正在为AI寻求自身用途，包括进攻性网络行动、网络防御扫描、数据分析和情报报告生成等。