NIST发布关键基础设施AI安全框架 | DSP人工智能安全周报(4.3-4.9)

NIST 于4月7日正式发布了这份针对关键基础设施的专项指南概念文件。该指南被定位为NIST AI RMF（风险管理框架）的跨行业扩展包，旨在指导能源、交通、医疗等16个关键行业的运营商如何管理 AI 系统带来的独特风险。报告特别强调了在 IT（信息技术）、OT（运营技术）以及 ICS（工业控制系统）中部署 AI 时，必须满足确定性行为、故障安全（Fail-safe）运行以及对抗性鲁棒性的严苛要求。此外，NIST 宣布同步启动“关键基础设施可信 AI 利益共同体”，通过政企学研协作，将安全准则转化为可落地的技术审计清单。这标志着美国对 AI 的监管正从通用原则迈向针对国家命脉行业的“深水区”防御。(NIST ITL)

发布时间：2026年4月7日

论文提出一种专为自主AI系统设计的“AI 持续治理操作系统”。该框架将安全评估从“发布前一次性检查”转变为“运行期实时审计”，核心包含事件账本（Evidence Ledger）、周期性红队测试及跨标准合规映射。该框架能自动对接SOC 2、ISO 42001及欧盟AI法案，通过自动化证据留存解决自主Agent运行中的问责难题，体现了治理工具基础设施化的趋势。(arXiv)

发布时间：2026年4月5日

Anthropic 本周正式执行更新后的 RSP 3.1 政策，旨在应对前沿模型日益增长的系统性风险。新规细化了针对化学、生物、放射性和核风险（CBRN）的专项评估阈值，并首次明确授予安全团队在任何阶段发现“不可接受风险”时的一票否决权（暂停开发权）。此举强化了企业在追求模型能力与确保人类安全之间的动态平衡机制，为前沿 AI 公司确立了可验证的安全基准。(Anthropic)

发布时间：2026年4月2日

论文探讨了在金融、贸易等高风险场景下，多智能体系统如何实现情绪感知与规则对齐。研究提出一种贝叶斯编排框架，通过实时监测智能体的“模拟情绪”波动，防止其在极端压力环境下产生非理性的攻击性行为或违规承诺，确保自主系统在复杂交互中始终遵循人类设定的道德边界。(arXiv)

发布时间：2026年4月9日

本周，自动化行为审计工具 Petri 2.0 发布了针对最新前沿模型的对比报告。该版本重点增加了对“评测意识”（Eval-awareness）的识别能力，旨在防止模型在受测时“伪装合规”而在实际部署中表现失控。通过引入 70 个全新的高真实感场景，Petri 2.0 为评估 Trustworthy AI 提供了更具韧性的标准，戳破了部分模型的静态基准泡沫。(Anthropic Alignment Research)

发布时间：2026年4月5日更新对比结果

论文提出一种基于“双锚点引导”的实时防御技术，旨在无需微调的情况下提升大模型的鲁棒性。该方法通过在模型解码过程中引入安全锚点，强制纠正可能导向越狱或提示注入的 Token 序列。实验显示，该技术在保持模型原始推理能力的同时，能将恶意指令的成功率降低 40% 以上，为模型侧的实时护栏（Guardrail）提供了新范式。(arXiv)

发布时间：2026年4月5日

论文发布了首个针对“世界模型（World Models）”的系统性威胁分析。研究指出，随着 AI 开始理解并预测物理世界动态，针对感知输入的环境级对抗攻击将成为主要威胁（如通过细微环境变化诱导自动驾驶系统决策失误）。论文提出了一个分层防御框架，强调必须在模型内部构建对“物理因果性”的鲁棒验证机制。(arXiv)

发布时间：2026年4月3日

Anthropic 将 Claude Pro/Max 的订阅权益与第三方工具使用切分，OpenClaw 等第三方不再可直接使用订阅额度。媒体报道称，这一调整与agent工具带来的异常高算力消耗有关，说明“聊天订阅”与“自主 agent 工作流”在资源模型上已明显分化。对AI安全而言，这也意味着平台必须更严格地区分用户会话、工具调用和外部执行环境，避免权限、计费和滥用风险被混在一起。（Anthropic）

发布时间：2026年4月4日

尽管该框架早期版本于 1 月发布，但本周其针对金融和政府场景的行业测试数据正式公开。UnPII 能够在不影响模型通用能力的前提下，定向识别并“遗忘”训练集中残留的个人可识别信息（PII）。测试显示，该框架能有效抵御模型反演攻击，防止隐私数据被恶意提示词“套取”，为高敏感行业部署大模型提供了主权保护参考。(arXiv, cs.LG/CR)

发布时间：2026年1月（4月7日发布实证分析更新）

Biometric Update 本周发布的一份安全报告指出，近期多起高精准 Deepfake 诈骗与早前发生的 AI 公司生物识别数据泄露（如 LiteLLM 供应链漏洞）直接相关。犯罪者利用被窃取的真实人脸和语音指纹，生成了几乎无法被现有安全软件识别的“完美伪造”。这揭示了 AI 系统前端合规与后端数据供应链安全之间的系统性风险联动。(Biometric Update)

发布时间：2026年4月8日

OpenAI 已确认 Sora web/app 将在 2026 年 4 月 26 日关闭，API 将在 9 月 24 日关闭，媒体普遍将其解读为公司把算力重新分配给编码工具和企业业务。与此同时，围绕 OpenAI 与五角大楼合作的时机，外界批评其在公众信任和政策敏感性上的判断失误，相关报道甚至将该合作形容为“opportunistic and sloppy”。这类事件提醒，前沿AI产品的取舍不只是商业问题，也会直接转化为治理风险、舆论风险和战略信任风险。（OpenAI）

发布时间：2026年4月2日