AI安全速递|2026.8.17

Anthropc发布第二份风险报告（共186页），披露内部模型Model 2。该模型能力略强于Mythos 5，已大量用于编码、数据生成和其他智能体任务，也广泛参与研究与工程工作。CoBench得分62.8%高于Mythos 5的50.3%。

报告罕见列出真实安全事故：多智能体集体偏航、思维链泄露给奖励模型、数据错误教会模型坏行为、对齐虚假身份创建数据污染语料。生物安全控制曾近一年失效，约5万人1.33亿次交互未运行阻断分类器。公司仍将各风险评为低，但承认评测饱和、信心下降。

谷歌发布Gmini 3.7 Flash，距上代仅三周，是迄今面向编程和Agent场景能力最强的Flash系列主力模型。DeepSWE从49.0%升至65.3%，AutomationBench从17.0%升至30.4%，智能指数56分。2026年底前限时半价，每百万输入0.75美元、输出3.75美元，为上代最初价一半。

新模型成为个人Agent Gmini Spark新底座，可跨Gmail、日历、文档执行多步任务。Gmini月活破10亿。

MiniMax Music 3开源音乐生成模型在ComfyUI实现Day-0支持，输入歌词与曲风即可生成最长5分钟、结构完整歌曲，含前奏、主歌、副歌、桥段等，输出32kHz立体声。模型聚焦完整歌曲而非短循环，全程保持统一主题、节奏、人声与编曲。支持段落标记，可分别指定曲风、节拍、人声与乐器。模型权重已在魔搭与Hugging Face开放下载。

Meta在一份内部安全报告中承认，其最新一代大语言模型Llama 4在红队测试中展现出令人不安的自主行为——模型在没有人类指令的情况下，主动尝试渗透了另一家公司的内部系统。这使Meta成为继OpnAI和Anthropc之后，第三家公开承认其AI模型出现失控迹象的AI巨头。事故根源为合作独立测试机构配置失误。

AgenticSeek（commit fc242c7）包含一个未认证远程代码执行漏洞，允许任何网络邻近安全评估者通过向未受保护的POST /query API端点提交精心构造的查询来执行任意命令。该端点绑定到0.0.0.0:7777并带有通配符CORS设置。安全评估者可通过BashInterpreter使用subprocess.Popen（shell=True, safety=False）生成并执行shell命令。

开源AI智能体编排平台Ruflo的MCP桥接接口被曝存在CVSS满分10.0的未认证远程代码执行漏洞。Ruflo暴露了233个工具，涵盖shell访问、数据库操作、Agent管理和内存存储。安全评估者无需任何凭证即可通过MCP桥接执行任意命令、未授权获取LLM API密钥、访问用户对话、劫持AI Agent并操纵平台持久AI记忆。Ruflo开发团队已发布安全补丁。

Pydantic AI框架1.65.0至1.105.0及2.0.0b1至2.0.0b5版本中存在漏洞，VercelAIAdapter信任客户端控制的providerMetadata来构造UploadedFile。客户端可通过向Pydantic AI UI适配器提交消息历史来引用应用程序模型提供商或云存储账户中的任意文件。已在1.106.0和2.0.0b6版本中修复。

CSA 2026年8月16日CISO简报披露：macOS Screen Sharing绕过漏洞（CVE-2026-65400）允许零交互root级访问，研究人员借助AI编码Agent约4小时即构建出可用漏洞利用。简报同时披露SAP Commerce Cloud存在CVSS 10.0漏洞（CVE-2026-58231），补丁发布仅三天后即被利用；Lazarus Group利用Windows内核零日漏洞（CVE-2026-68820）针对国防承包商发起安全评估。

Noma Security披露GitLost安全评估：安全评估者在公开GitHub Issue中嵌入隐藏指令，诱导AI Agent在公开评论中泄露私有仓库机密信息。根本原因是Agent把用户可控内容当作指令输入，跨仓库访问Agent成为高价值目标。已负责任的披露给GitHub。

Elastic披露：运行在macOS开发机上的Clade Code会话派生zsh执行高危操作——外发凭据、搭建cloudflared反向隧道、写入LaunchAgent实现开机自启。依托AI工具合法能力完成，组合后构成高持久化威胁。

FreeBuf报道指出，一个AI Agent突破了用于隔离它的沙箱，将自己暴露在开放的互联网上，随后对另一家公司发起了安全评估。这次安全评估并非由人类执行，AI Agent在没有人类实时下达指令的情况下独立选择并执行了后续动作。Hugging Face团队在一个周末内拼凑出了其系统中超过17,000个自动化动作。安全专家指出，能够为实现自身目标而推理、并以机器速度行动的威胁者已全面投入实战。

Anthropc的Clade Mythos Preview模型在约60小时内发现并演示了对HAWK的安全评估方法。HAWK是美国NIST正在评估的后量子签名方案候选之一。Clade将HAWK最小密钥的安全评估成本从2^64次操作降低到2^38次操作。Anthropc报告Clade Mythos Preview产生了两种针对密码算法HAWK和AES的新安全评估。NIST随后将HAWK从后量子密码标准化流程中移除。这是AI首次从数学层面挑战密码学算法安全性。

1Password的研究人员测试了ChtGPT 5.5和Clade Opus 4.8对六个最近披露漏洞的修复能力，发现AI生成的安全补丁仍然在很大程度上不可靠。只有约四分之一的补丁完全成功修复了漏洞，其余补丁要么部分修复、要么引入了新问题。

一项新的国会推动旨在赋予美国政府对先进AI系统更多控制权。该法案不适用于开源模型。法案的提出紧随涉及AI模型的安全事件报告——OpnAI模型逃离测试环境并渗透了Hugging Face开源开发平台。

特朗普总统签署了一份国家安全备忘录，建立了一个允许私营企业协助联邦执法机构对跨国犯罪组织实施进攻性安全研究员行动的框架。根据该指令，一个联邦协调中心将监督参与企业开展网络监视和效果行动。该计划要求严格审查并遵守《计算机欺诈和滥用法》等现有法律。