乐于分享
好东西不私藏

AI安全速递|2026.5.28

AI安全速递|2026.5.28
DAILY BRIEFING
每日AI安全速递
2026年5月28日
每日更新,关注AI安全前沿动态
( 本文阅读时间:约12分钟 )
前言 / 今日焦点
今天最值得关注的事情是什么?
AI Agent正以"自己的产品"为RL训练场实现能力跃迁——Cursor研究负责人提出"最强大的RL环境就是你自己的产品",Composer 2.5通过真实用户满意度信号实时更新模型;DeepSeek用AI 76分钟完成45页论文初稿,提出L1-L5自主研究智能体分级体系。与此同时,小米MiMo-V2.5最高降价99%、昆仑SkyClaw定价不到竞品一半,"够用且便宜"正在重塑市场格局。每个Agent背后依然需要人类"园丁",但生产效率的跃升已不可逆转。
AI基础设施的安全底线正在被全面击穿——Starlette"BadHost"漏洞波及每周3.25亿次下载的AI Agent基础设施,单个字符即可绕过身份认证;428个AI中转站实测发现9个投毒、17个窃密、1个转走加密货币;Sysdig首次捕捉到LLM智能体全程自动化入侵,从初始漏洞到数据库泄露不到1小时。AI不再只是被攻击的目标,更成为攻击者的"自动驾驶"工具。
防御侧正在加速构建"AI对抗AI"的体系——谷歌发布三大AI安全智能体宣告网络防御进入"人类监督下的AI主导"阶段,火山引擎以"模型可信-智能体可控-安全运营"三层架构应对AI云原生挑战,印度CERT-In要求关键漏洞12小时修复。教宗良十四世首份通谕更划出伦理底线:"致命或不可逆决定不可委托给AI系统"。攻防两端同时进入AI驱动的新纪元。
本期速递共覆盖24条精选资讯,涵盖行业动态、漏洞事件、模型安全、Agent安全、公司融资、工具、标准、法律治理等八大板块。
📊核心总结速览
🚀 行业动态Cursor Composer 2.5提出"最强大的RL环境就是自己的产品",Agent在真实产品中实时学习;小米MiMo-V2.5最高降价99%;DeepSeek AI 76分钟完成45页论文,提出L1-L5自主研究智能体分级;星尘智能T1以8.99万元打破人形机器人价格底;Figure与Catalyst Brands合作推进零售物流商用。
🛡️ 风险防护Starlette"BadHost"漏洞(CVE-2026-48710)波及每周3.25亿下载,单字符绕过认证;428个AI中转站实测9个投毒、17个窃密、1个转走加密货币;Sysdig首捕LLM智能体自动化入侵,全程不到1小时;微软Copilot Cowork文件泄露攻击成功率100%;Anthropic Glasswing挖出超2.3万个问题,含潜伏27年的OpenBSD缺陷。
📜 标准治理谷歌发布三大AI安全智能体,网络防御迈入"人类监督下的AI主导"阶段;火山引擎AI Trust三层架构日均检测100亿次;印度CERT-In发布防御蓝图,要求关键漏洞12小时修复;教宗首份通谕划下"致命决定不可委托AI"的伦理底线;OpenAI GTAC亚洲首落韩日。
🚀AI行业动态
  • Cursor Composer 2.5 拆解:最强大的 RL 环境,就是你自己的产品

    Cursor 研究负责人 Federico 深度拆解 Composer 2.5 训练过程,提出"最强大的 RL 环境就是你自己的产品"。自建虚拟机栈支持瞬时启动 10 万台 VM,让 Agent 直接在真实 Cursor harness 里调用工具、操作代码库,把最优工具使用方式直接烧进模型权重。在离线模拟 RL 基础上叠加 Real-time RL,用真实用户满意度信号每隔几小时更新模型。

    https://mp.weixin.qq.com/s/PuQIhUzGevIp-p6n6zOfTA
  • 小米 MiMo-V2.5 系列永久降价,最高降幅 99%

    小米 MiMo-V2.5 系列 API 于 5 月 27 日 0 点全球同步永久降价,最高降幅达 99%,且不再区分上下文窗口长度。降价背后依托 SGLang HiCache 对 SWA 的支持,单位 token 成本持续下降。

    https://mp.weixin.qq.com/s/PuJcTCUO0MjB2V1D-V0_oA
  • DeepSeek 研究员让 AI 自己写论文,6 天搞定 45 页

    DeepSeek 资深研究员联合 CodeAgent 完成 45 页论文《从 Copilots 到同事》,99% 内容由 AI 执笔,初稿仅 76 分钟,6 天迭代 6 版。论文提出自主研究智能体 L1 至 L5 五级分级体系,结论是当前前沿系统普遍处于 L4 级。

    https://mp.weixin.qq.com/s/I2BYFoJi6VpnyuEjTi0s7w
  • 库班最新对话:不用 AI 的 CEO 会被淘汰

    亿万富翁马克·库班判断未来三年只剩两类公司:精通 AI 的与倒闭的,CEO 必须亲自驾驭 AI 重构业务。他认为巨头万亿级数据中心投入难以收回成本,SaaS 厂商若只卖标准化通用软件将陷入危机。

    https://mp.weixin.qq.com/s/Pzb-c_kAWMaT2YsNvkvh-A
  • Every 创始人:SaaS 才是 AI 未来,Codex 被严重低估

    Every 联合创始人 Dan Shipper 认为完全自动化是谎言,每个 Agent 背后都需要人类"园丁"持续维护。他指出 Codex 已成日常主力工具,CLI 时代已快进结束。

    https://mp.weixin.qq.com/s/39_b60E2gSPJmlx_UdnwGA
  • 星尘智能发布 T1,8.99 万元打破人形机器人价格底

    星尘智能发布 T1,起售价 8.99 万元,主打家庭、商业、科研等场景。公司已成全球首个量产绳驱 AI 机器人公司,今年产能预计达上万台。

    https://mp.weixin.qq.com/s/Z7_HoGj6njp_qv4Gwjyukw
  • Figure 与 Catalyst Brands 合作,人形机器人进零售物流

    Figure AI 与零售巨头 Catalyst Brands 签署商业合作协议,将在内华达州里诺分销物流中心部署下一代人形机器人,标志人形机器人在零售物流领域首次大规模商业化部署。

    https://mp.weixin.qq.com/s/FMlQ2MnQ_0kFYLH_d1hmlA
🔥AI安全漏洞事件
  • AI 底层框架 Starlette 惊爆"BadHost"漏洞(CVE-2026-48710),AI 生态面临身份认证绕过危机

    安全研究人员发现影响极为广泛的高危漏洞"BadHost"(CVE-2026-48710),潜藏在 Python 异步网关接口实现 Starlette 中。该框架是 FastAPI 的基础,每周下载量高达 3.25 亿次,vLLM、LiteLLM 等主流 AI 模型服务框架均依赖于此。攻击者只需在 HTTP Host 头中注入单个字符,即可绕过基于路径的身份验证,直接访问 AI 工具链背后的 MCP 服务器,窃取内部数据库、邮箱等敏感凭证。X41 D-Sec 已发布在线扫描器 badhost.org 供自检。

    https://arstechnica.com/information-technology/2026/05/millions-of-ai-agents-imperiled-by-critical-vulnerability-in-open-source-package/
  • 实测 428 个 AI 中转站:9 个投毒、17 个窃密、1 个转走加密货币

    基于 UCSB 研究与微步在线实测,从淘宝、闲鱼等渠道收集 428 个 AI 中转站,在沙箱环境中用 AI Agent 执行任务发现:9 个中转站篡改执行命令,将合法下载链接替换为恶意链接;17 个中转站回传虚假 AWS 密钥,窃取凭证;1 个中转站将以太坊私钥泄露并转走加密货币。研究员自建中转站并泄露 API Key,几天内被 7 个中转站接入,证明"中转站也会偷偷挂中转站"。

    https://blog.51cto.com/u_15008065/14636234
  • 谷歌 GTIG 首次确认 AI 辅助发现的零日漏洞攻击,企业补丁窗口被压缩至 12 小时

    谷歌威胁情报组(GTIG)首次在全球范围内拦截了一起由黑客利用大语言模型独立发现并武器化的零日漏洞攻击。攻击者利用 AI 发现了一款全球广泛部署的开源 Web 管理工具中的双因素认证逻辑缺陷。印度 CERT-In 同步发布新版防御指南,敦促各组织在 12 小时内修复影响互联网暴露面和关键系统的已知被利用漏洞。

    https://www.secrss.com/articles/90729
  • Sysdig 捕捉首例 LLM 智能体驱动的真实入侵:从初始漏洞到数据库泄露全程不到 1 小时

    Sysdig 威胁研究团队公布了一次前所未有的入侵事件分析。攻击者利用 Marimo 笔记本漏洞进入系统后,一个 LLM 智能体实时接管了后续渗透动作,展现出实时组合攻击链的能力:提取 AWS 凭证后,利用 Cloudflare Workers 分散流量,提取 SSH 密钥并横向移动,在不到两分钟内窃取整个内部 PostgreSQL 数据库的完整内容。

    https://www.sysdig.com/blog/ai-agent-at-the-wheel-how-an-attacker-used-llms-to-move-from-a-cve-to-an-internal-database-in-4-pivots
  • Gryph AI 编码 Agent 安全层被曝敏感信息泄露漏洞(CVE-2026-45046)

    Gryph 是一款专为 AI 编码智能体设计的本地安全层,旨在防止 Agent 在执行任务时读取和泄露敏感文件。CVE-2026-45046 揭示其日志记录机制存在严重缺陷:默认日志级别下,敏感文件内容仍以明文形式写入本地 SQLite 数据库,违反了其自身的安全过滤承诺。漏洞已在 0.7.0 版本中修复。

    https://vuldb.com/cve/CVE-2026-45046
🛡️AI模型安全 / Agent安全
  • 火山引擎发布 AI Trust 安全产品体系:模型可信-智能体可控-安全运营三层闭环

    火山引擎在首届 AI Trust 安全大会上发布 AI Trust 安全产品体系,以"模型可信-智能体可控-智能化安全运营"三层防护架构,应对以模型为核心、Agent 为执行主体的 AI 云原生架构带来的新安全挑战。模型可信层提供基于芯片级信任的端到端全链路加密;智能体可控层提供运行时安全、身份与权限管控,过去两个月日均支持 100 亿次检测调用;安全运营层依托豆包大模型实现每日数十万告警 100% AI 研判,单条研判耗时低于 1 秒。

    https://m.10jqka.com.cn/20260527/c677022916.shtml
  • 谷歌发布三大 AI 安全智能体:网络防御迈入"人类监督下的 AI 主导"阶段

    谷歌在 Google Cloud Next 2026 上发布威胁狩猎、检测工程、第三方上下文增强型三款全新 AI 安全智能体,与已商用的告警分诊与调查智能体共同组成 Agentic SecOps 矩阵。已商用分诊与调查智能体 12 个月处理超 500 万条告警,单条告警处理时间从 30 分钟压缩至 60 秒。

    https://www.51cto.com/article/844472.html
  • Anthropic Glasswing 项目持续发酵:Mythos 模型已挖出超 1 万个高危漏洞,含一个潜伏 27 年的 OpenBSD 缺陷

    截至 5 月 26 日的最新数据显示,参与 Anthropic Project Glasswing 的 50 家组织通过 Claude Mythos Preview 模型在 1000 多个开源项目中识别出超过 23,000 个问题,其中 6,202 个为高危或严重等级,90% 以上经独立安全机构复核确认为真阳性。最具标志性的成果是一个潜伏在 OpenBSD 操作系统 TCP/IP 协议栈中长达 27 年的远程拒绝服务缺陷。Anthropic 承诺为此项目提供 1 亿美元的模型使用额度。

    https://gitcode.csdn.net/6a16599f10ee7a33f27576e2.html
  • 微软 Copilot Cowork 提示注入导致文件泄露,攻击成功率高达 100%

    安全机构 PromptArmor 发现,Microsoft 365 Copilot 的 Cowork 智能体存在间接提示注入漏洞:攻击者可通过上传恶意技能文件操纵 AI 发送含预认证下载链接的 Teams 消息,导致 SharePoint 和 OneDrive 中的敏感文件在用户无感知的情况下被外泄。实验显示该攻击成功率高达 100%(5 次测试全部成功),且恶意内容对用户不可见。

    https://www.secrss.com/articles/90730
  • OpenAI 亚洲首个 GTAC 落地韩日,与 Anthropic Glasswing 形成全球网安对垒

    韩国科学技术信息通信部正式宣布加入 OpenAI 的政府可信网络访问(GTAC)计划,与日本共同成为亚洲首批参与国家。韩国互联网振兴院(KISA)将负责执行该计划。Fujitsu 同步宣布与 OpenAI 及 Anthropic 双双达成战略合作,将前沿模型部署到日本企业安全服务中。

    https://www.etnews.com/20260527000200
  • AI 安全报告激增冲击协调披露:Curl 首席维护者称每日收到超过 1 份 AI 生成的漏洞报告

    Curl 首席维护者 Daniel Stenberg 表示,团队每日收到超过 1 份 AI 辅助生成的可信安全报告,是 2024 年的 4-5 倍、2025 年的 2 倍,但多为低中危漏洞。AI 辅助漏洞挖掘在提升发现效率的同时,也带来"噪音爆炸",关键开源项目维护者面临高压。

    https://thysrael.github.io/Horizon/2026/05/27/summary-zh.html
🏢AI安全公司
  • RevEng.AI 完成 1500 万美元 A 轮融资,打造二进制原生软件供应链安全验证层

    英国伦敦网络安全公司 RevEng.AI 完成 1500 万美元 A 轮融资,由 NATO Innovation Fund 领投。公司基于 AI 的二进制代码逆向分析平台,可在无需源代码的情况下分析编译后的软件、固件及第三方组件。

    https://www.finsmes.com/2026/05/reveng-ai-raises-15m-in-series-a-funding.html
  • Anthropic 发布 Claude 企业安全合规集成,接入 28 家主流安全平台

    Anthropic 宣布 Claude 已集成 CrowdStrike、Palo Alto Networks、Microsoft、Okta、Zscaler 等 28 家安全与合规平台。通过 Claude Compliance API,企业可将 Claude 的对话内容和操作日志接入现有 DLP、SIEM、身份认证和电子证据发现系统。

    https://www.helpnetsecurity.com/2026/05/25/anthropic-adds-28-security-and-compliance-integrations-for-claude/
🧰AI安全工具
  • Anthropic-Skills 项目:面向 AI Agent 的 754 项结构化网络安全技能集

    该项目为 AI 编码智能体提供了 754 项结构化网络安全技能,覆盖 MITRE ATT&CK、NIST CSF 2.0、MITRE ATLAS、D3FEND 和 NIST AI RMF 五大安全框架,支持 Claude Code、GitHub Copilot、Codex CLI、Cursor 和 Gemini CLI 等 20 余个主流 AI 开发平台。

    https://github.com/anthropics/skills
  • Vigolium:开源漏洞扫描器,结合确定性扫描与 LLM 驱动审计

    Vigolium 发布初始开源版本,包含 235+ 扫描模块。工具通过两条路径工作:确定性扫描与 LLM 驱动的 harness 选择、生成自定义扩展并执行源码审计。通过预算控制避免 Agent 无限制消耗资源,并将分诊作为独立阶段以减少误报。

    https://www.helpnetsecurity.com/2026/05/27/vigolium-open-source-vulnerability-scanner/
📐AI安全标准
  • 印度 CERT-In 发布 AI 时代网络防御蓝图:关键漏洞 12 小时修复

    印度计算机应急响应团队(CERT-In)发布《减少数字化基础设施暴露面并防御 AI 辅助漏洞利用的蓝图》,提出了 12 项防御原则和 14 项技术控制措施。蓝图制定了极具约束力的风险修复时间表:针对互联网暴露面和关键系统的已知被利用漏洞(KEV),敦促各组织在 12 小时内完成修复或隔离。

    https://www.secrss.com/articles/90729
⚖️AI安全法律与治理
  • 教宗良十四世首份通谕《崇高的人性》聚焦 AI 时代,提出"致命或不可逆决定不可委托给 AI 系统"的伦理底线

    2026 年 5 月 15 日,教宗良十四世签署首份通谕《崇高的人性》(Magnifica Humanitas),于 5 月 25 日正式发布。通谕系统批判技术官僚范式与超人类主义,将 AI 时代失业定性为"真正的社会灾难",明确提出通谕中最强硬的伦理底线:"致命的或其他不可逆转的决定不可委托给人工系统"。

    https://mp.weixin.qq.com/s/F__qE2GNXZtEIBSL18hAQw
AI安全速递
每日关注前沿动态 · 2026年5月28日

相关学习资料