AI安全快讯0923 | 英国宣布与美国建立新的人工智能防务伙伴关系

第一时间呈现最新AI前沿资讯

9月21日消息，据路透社报道，英国首相伯纳姆（Andy Burnham）宣布，英国将与美国建立新的人工智能防务伙伴关系，以保护关键基础设施、探测安全威胁。根据英方规划，英国国防部人工智能快速交付工作组（TF RAID）将与美国国防部首席数字与人工智能办公室（CDAO）合作，加速交付“可信、可互操作的技术能力，以此增强战略威慑”。

9月22日消息，据路透社报道，美国总统特朗普在联合国大会发言时重申反对针对人工智能技术出台新监管规定，但表示美国政府将通过司法部密切关注人工智能发展，必要时将介入约束人工智能企业。特朗普将部分有关人工智能风险的警告称为“骗局”，并表示：“我不会扼杀一个比工业革命更宏大的事物的成长”。

9月22日消息，据路透社报道，联合国秘书长古特雷斯（António Guterres）在联合国大会致辞中呼吁加强全球人工智能治理，要求处于技术领先地位的国家加强安全风险信息共享，协同开展测试与评估，推动建立由可信独立监督机制支持的多边人工智能风险管理框架。

9月22日消息，据MeriTalk报道，一项针对美英810名公共部门信息技术从业者和管理者的调查显示：全部受访者中，只有37%表示所在机构已建立并执行正式的人工智能治理框架；44%称过去一年人工智能相关安全事件增加。高级政府事务顾问加洛韦（Galloway）表示，对人工智能治理的信心远超各机构的实际控制措施，而风险正是在这一落差中不断累积。

9月22日消息，据路透社报道，美国银行、英国国民西敏银行等多家银行警告，让智能体代替消费者进行网上购物可能增加诈骗、欺诈和数据隐私泄露风险。这些银行在报告中指出，技术发展快于行业标准和消费者保护机制的完善速度；智能体可能购买错误商品、超额消费，或索取银行卡信息并将其直接输入网站，还可能引导用户采用保护较弱的支付方式。

9月21日消息，据TechXplore报道，德国网络安全研究机构CISPA研究人员发现，攻击者仅通过常规沟通渠道持续输出特定观点，就可能改变多智能体的集体判断，效果取决于该智能体的位置、其他智能体赋予其意见的权重及网络规模。动态信任机制可降低此类影响。

9月22日消息，据《The Information》报道，OpenAI与Anthropic曾商讨一项具有法律约束力的协议，由双方相互对对方模型进行压力测试，寻找模型中的漏洞和潜在风险。知情人士表示，按照协议，两家公司将获得彼此的应用程序接口（API）以访问商业可用模型，并保证不保留彼此数据。

9月23日消息，Anthropic正式发布Claude Opus 5.5模型。性能方面，Opus 5.5多数任务表现接近Claude Fable 5.1。安全方面，Anthropic称，新模型在其自动化行为审计中取得该公司所有模型中最高分。成本与速度方面，默认设置下，Opus 5.5在典型工作负载下的成本比Opus 5低40%，输出速度却比Opus 5快30%以上。

9月22日消息，据TechCrunch报道，美国芯片企业高通发布骁龙8 Elite Gen 6及骁龙8 Elite Extreme Gen 6两款旗舰手机芯片。骁龙 8 Elite Gen 6集成全新硬件加速单元，旨在提升端侧模型的运行能效；高配Extreme版本还可在本地运行总参数规模为300亿的混合专家模型。此外，两款芯片均可利用人工智能增强人声、降低通话噪声等。

9月22日消息，据路透社报道，美国网络安全公司派拓网络（Palo Alto Networks）推出一项由人工智能驱动的网络安全服务，该服务调用Claude、GPT以及开源模型，帮助识别企业系统中的安全漏洞。该产品旨在持续测试网页应用、应用程序接口和云基础设施，并提供修复安全漏洞的指导。

END