乐于分享
好东西不私藏

NVIDIA发布物理AI全能模型/Anthropic推出托管式智能体/微软开源代理治理工具包

NVIDIA发布物理AI全能模型/Anthropic推出托管式智能体/微软开源代理治理工具包
· 今日摘要
  • NVIDIA发布Cosmos 3,首个面向物理AI的开放全能模型,机器人、自动驾驶可直接使用。
  • Anthropic推出托管式智能体和主动式工作流,降低AI智能体部署门槛。
  • 英伟达Vera Rubin平台全面投产,机柜组装时间从2小时缩短至5分钟。
  • 微软开源AI代理治理工具包,覆盖OWASP十大风险,保障智能体安全。
  • 新研究揭示LLM代理对提示注入的脆弱性因注入表面而异,安全评估需多维度。
  • 面向AI代理的网络安全技能数据集在GitHub上飙升,兼容20多个平台。
  • 阿里云PAI分享超大规模集群下大模型训练的调度与容错实践。

· 今日重点

NVIDIA Cosmos 3:让AI理解物理世界

NVIDIA发布了Cosmos 3,这是首个面向物理AI的开放全能模型。简单说,它把视觉推理、世界生成和动作预测整合到了一个系统里,让机器人、自动驾驶汽车等能够感知、推理并在现实世界中行动。模型包含一个紧凑的8B参数版本(Cosmos 3 Nano),针对工作站GPU上的实时推理做了优化。(来源:NVIDIA、Hugging Face Blog)
这件事值得关注,因为物理AI是具身智能的核心,而Cosmos 3是开源模型,意味着我们可以在教学和科研中直接使用,不用从零开始。

Anthropic发布托管式智能体与主动式工作流

Anthropic在Code With Claude上发布了托管式智能体、主动式工作流与能力曲线。托管式智能体由Anthropic管理,降低了部署复杂性;主动式工作流能在最少人工干预下实现自主决策;能力曲线则帮助用户理解智能体在不同任务上的表现。(来源:InfoQ中文)
这对教学和行业实践都有直接影响——智能体技术正在从实验室走向实用,我们得跟上这个趋势。

英伟达Vera Rubin平台全面投产

英伟达CEO黄仁勋宣布,新一代AI计算平台Vera Rubin已全面投产,采用美光、SK海力士和三星的HBM内存,机柜组装时间从2小时缩短至5分钟。Vera Rubin平台包含名为Rubin的GPU和名为Vera的CPU,由台积电制造,被设计为机柜级一体化AI工厂底座。(来源:36氪)
组装时间的大幅缩短意味着AI基础设施部署速度将大大加快,这对算力产业和AI应用都是好消息。

· 产业观察

NVIDIA增强RTX PC和DGX Spark上的本地AI智能体

NVIDIA宣布了在RTX PC和DGX Spark个人AI超级计算机上本地运行AI智能体的新能力,利用OpenClaw和Hermes等开源项目,实现保护隐私的个性化助手。DGX Spark由NVIDIA GB10超级芯片驱动,支持高达2000亿参数的模型。(来源:NVIDIA Blog)
本地运行AI智能体意味着数据不用上传到云端,对教育、医疗等敏感应用特别重要。

NVIDIA AI Cloud Ecosystem全球扩展

NVIDIA的AI Cloud生态系统正在全球扩展,以满足企业、初创公司和国家对AI算力日益增长的需求。(来源:NVIDIA Blog)
算力网络的建设直接影响我们能否方便地获取AI资源,值得持续关注。

阿里云PAI分享超大规模集群训练实践

阿里云PAI在AICon上海分享了超大规模集群下大模型训练的调度与容错工程实践。(来源:InfoQ中文)
大模型训练是AI工程化的关键环节,这些实践经验对相关课程和项目有参考价值。

· AI安全

LLM代理漏洞因注入表面而异

新论文揭示,LLM代理对提示注入的脆弱性严重依赖于注入是通过工具输出还是工具描述传递,且不同模型表现出相反的模式。例如,GPT-4.1在工具输出上脆弱性为96%,但在工具描述上仅为4%,而Gemini 3 Flash则相反。(来源:arXiv)
这一发现挑战了为每个模型报告单一攻击成功率的常见做法,提醒我们在部署AI代理时必须进行多表面安全评估。

微软开源AI代理治理工具包

微软发布了Agent Governance Toolkit,这是一个开源Python库,为自主AI代理提供策略执行、零信任身份、执行沙箱和可靠性工程,覆盖OWASP Agentic Top 10的全部10项风险。(来源:GitHub/microsoft)
随着自主AI代理日益普及,安全与治理变得至关重要,这个工具包提供了实用的解决方案。

管理AI失控事件的框架

新论文提出了一个基础框架和分类法,用于管理灾难性AI失控事件,区分了重新控制成本极高与不可能的场景。该分类法将可管理事件分为意外失控和对抗性失控,并将三个严重等级映射到具体场景。(来源:arXiv)
AI安全不仅需要预防,还需要事件响应预案,这个框架填补了相关空白。

面向受监管网络安全运营的LLM智能体运行时架构

论文提出了一种面向受监管网络安全运营的组织级LLM智能体运行时架构,将SIEM/XDR告警作为一等触发器集成,并在检索、工具、记忆和审计等环节强制执行组织范围约束。(来源:arXiv)
该架构有望在关键网络安全运营中实现更安全的AI部署,对产教融合项目有参考价值。

· 学习资源

面向AI代理的网络安全技能数据集在GitHub上飙升

名为'Anthropic-Cybersecurity-Skills'的GitHub仓库提供了754个结构化的网络安全技能,映射到包括MITRE ATT&CK和NIST CSF 2.0在内的五个框架。这些技能遵循agentskills.io标准,兼容Claude Code、GitHub Copilot等20多个平台。(来源:GitHub/mukul975)
这个数据集将网络安全专业知识与AI代理能力相结合,非常适合用于教学和实训。

datawhalechina/hello-agents:从零构建AI智能体教程

Datawhale开源的hello-agents项目,提供从零构建AI智能体的实用教程,适合教学和自学。(来源:GitHub/datawhalechina)
这个项目可以作为智能体课程的入门教材,降低学习门槛。

ai-engineering-from-scratch:AI工程化学习指南

GitHub上趋势项目ai-engineering-from-scratch,提供从零学习、构建和交付AI工程项目的全面指南。(来源:GitHub/rohitg00)
对于想系统学习AI工程的同学,这是一个不错的资源。

· 算力与工程

NVIDIA DOCA硅内安全增强代理型AI基础设施

NVIDIA宣布了DOCA硅内安全功能,在BlueField-4 DPU的硅片中直接执行安全策略,为代理型AI工作负载提供零信任保护,且不影响性能。(来源:NVIDIA Technical Blog)
硅内安全将策略执行从软件转移到硬件,提升了性能和安全性,对AI工厂和多租户数据中心至关重要。

自主智能体数据工程提升模型专业化

新论文提出自主智能体数据工程,让LLM自主规划、生成并迭代优化训练数据以实现模型专业化,使用GPT-5.2将学生模型性能提升了57.29%。(来源:arXiv)
这项工作将数据整理从人工设计转变为完全自主的LLM驱动流水线,有望减少人力投入,实现模型快速适配专业领域。
今天先整理到这里,后续继续跟踪。

相关学习资料