AI安全快讯0506|美国国防部与多家人工智能企业签署合作协议

全球AI安全快讯

5月2日消息，美国国防部宣布，已与八家人工智能公司——SpaceX、OpenAI、谷歌、英伟达、Reflection、微软、亚马逊网络服务（AWS）以及甲骨文达成协议，将在该部门的涉密网络上部署人工智能技术，旨在将安全前沿人工智能技术集成到美国国防部的影响级别6（IL6）和影响级别7（IL7）网络环境中，以简化数据合成，提升态势感知能力，并增强作战人员在复杂作战环境中的决策能力。

5月4日消息，美国政府正在研究在人工智能模型上市前实施政府审查管控的可能性。据悉，美国政府正在起草一项行政命令，计划组建由美国政府官员与科技企业高管组成的联合工作组，核心任务是建立新型人工智能模型的安全评估流程，确保人工智能模型推向市场前符合既定安全标准。白宫发言人表态称，相关行政命令的讨论目前仍处于设想阶段。

5月4日消息，美国陆军召集14家科技企业的网络安全高层管理人员，举办第二届人工智能桌面推演演习，代号AI TTX 2.0。此次桌面推演设定了未来印太地区危机的假想作战背景：设想假想敌利用人工智能发起不间断、可自主迭代升级的网络攻击，攻击响应速度远超人类网络防御人员的处置极限。据悉，活动要求参会各方筛选出当下已经成熟、可规模化部署的人工智能技术。

5月4日消息，英国警方目前正持续扩大人工智能人脸识别技术在执法中的应用，执法人员可以利用手机等设备将实时拍摄到的画面与警方数据库进行实时比对，从而快速确认人员身份。根据英国警方规划，该系统已逐步与随身手机、执法记录仪等设备整合，可应用于街头巡逻、大型活动安保以及高风险区域执法领域，以进一步缩短身份核查时间、提高响应效率。

5月4日消息，Anthropic宣布，与黑石（Blackstone）、赫尔曼与弗里德曼（Hellman & Friedman）以及高盛（Goldman Sachs）三家美国金融机构共同成立一家新的人工智能服务公司。新公司将与各行业的跨领域中型公司合作，将人工智能大模型Claude引入其最重要的业务运营中。来自Anthropic的应用人工智能工程师将与新公司的工程团队一起工作，构建Claude定制解决方案，并为客户提供长期支持。

5月5日消息，Meta完成了对机器人智能初创企业Assured Robot Intelligence（ARI）的收购，这笔交易的财务条款未被披露。Meta发言人表示，ARI处于机器人智能的前沿领域，致力于让机器人在复杂且动态的环境中理解、预测并适应人类行为，并称该团队将带来在模型设计以及机器人控制和自主学习前沿技术方面的专业知识，应用于全身人型机器人（full-body humanoid robot）控制领域。

5月6日消息，微软游戏业务Xbox部门出现管理层人事变动。新任负责人阿萨・夏尔马履职数月后，正式推动该部门领导层调整，两名资深高管宣布离任，同时有五名人工智能领域高管入职。此前，凯文・加米尔负责Xbox用户体验、游戏开发与发布平台业务，罗恩・索内斯主管Xbox设备及生态系统相关工作。据内部备忘录内容显示，夏尔马提出，Xbox部门需调整现有工作模式与组织架构。

5月5日消息，出版商爱思唯尔（Elsevier）、圣智（Cengage）、阿歇特（Hachette）、麦克米伦（Macmillan）和麦格劳-希尔（McGraw Hill）在曼哈顿联邦法院起诉Meta，指控Meta滥用其书籍和期刊文章来训练其人工智能模型Llama。据悉，指控称Meta盗版了其数百万部作品，并在未经许可的情况下使用这些作品来训练其大语言模型，以此实现人机交互应答。他们请求法院准许其代表一个更大规模的版权所有者群体，并索赔金额暂未确定的经济赔偿。Meta发言人回应称，已由法院正确裁定，利用受版权保护的材料训练人工智能可以构成合理使用。

5月6日消息，OpenAI宣布升级ChatGPT聊天机器人的标配模型，替换为GPT-5.5 Instant，聚焦准确性与简洁性，在和网友交互时重点减少回复中出现不必要的表情符号。在医疗、法律、金融等高风险提示中，OpenAI内部评估显示GPT-5.5 Instant幻觉发生率较前代减少52.5%。在用户标记存在事实错误的对话测试中，错误率降低37.3%。推送安排上，所有用户即日起获得更新，付费用户可继续使用GPT-5.3 Instant三个月。

5月6日消息，Meta正在开发一款面向数十亿用户的个性化人工智能助手，由人工智能模型Muse Spark驱动，可辅助用户完成日常任务。该助手正在由一组员工进行内部测试，Meta的目标是开发一款类似于OpenClaw的产品，后者允许用户创建智能体，自主完成各种任务。据悉，Meta拟在获得用户自主授权的前提下，采集健康、财务等高敏感信息，为人工智能助手提供服务支撑。