夜雨聆风学习资料网

ARTICLE · 1310286

AI 日报|11月4日:安全收紧,范式生变

AI 日报|11月4日:安全收紧,范式生变

摘要: 国内拟推覆盖研发到部署全生命周期的AI安全标准;OpenAI陷「窃听门」安全争议;MIT展示零训练改写权重的「权重空间编程」;DeepSeek V5拟用华为昇腾950预训练,国产算力首进训练侧。

11月4日,AI圈的主线很清晰:一边是「安全」在前后两端同时收紧——国内要把治理从「上线」前移到「训练数据」,OpenAI却被曝内部安全长期让位于速度;另一边,「权重空间编程」和「国芯训练国模」两条线,正在重新定义模型是怎么被造出来的。

一、国内拟推「研发到部署」全生命周期AI安全标准

11月4日,彭博社报道称中国计划推出一套覆盖「开发到部署」全环节的AI安全标准,重点面向国内AI模型厂商;Techmeme随后转引,通信世界、腾讯新闻等媒体跟进解读。据称该标准将监管触点前移到训练数据来源、模型开发流程与安全评测,后移到API服务、运行监测与持续审计,意味着治理对象从「一个已上线的模型服务」扩展为模型从设计、训练、部署到运营的完整链条。

为何重要:这是AI治理从「上线备案」走向「全生命周期安全」的信号。一旦标准与备案、行业采购、准入衔接,云厂商与算力提供方将从「资源供给方」变成安全责任链的一环,中小模型厂商的合规与评测成本也会抬升。对行业而言,这是一道实打实的准入线,不是口号。

来源:彭博社 / 腾讯新闻 / 通信世界(2026-11-04,https://news.qq.com/rain/a/20261104A00YQJ00)

二、OpenAI「窃听门」:员工称多年安全警告未被重视

11月4日,智通财经、网易等援引多名知情人士报道,在OpenAI于10月披露「高管会议室发现隐藏录音设备」事件后,多名前员工反应并不意外——他们称早在ChatGPT推出前,就有人内部警告安全措施不足,但有员工认为管理层更看重跟上谷歌、Anthropic的节奏而非安全。报道还提到,OpenAI大量代码存放于单一代码库(monorepo),任何能访问代码的人都能看到许多项目的底层细节;公司称最敏感工作已隔离存放并设严格访问控制。

为何重要:这不是孤立的八卦,而是AI公司「速度 vs 安全」结构性矛盾的样本。当模型本身成为国家战略资产、AI智能体又能反过来入侵AI公司的系统,安全不再是某家公司的私事,而是整个行业的共同债务。上市临近,这类旧账会被放大镜反复检视。

来源:智通财经 / 网易(2026-11-04,https://www.163.com/dy/article/LASNDAUJ05198UNI.html)

三、MIT「权重空间编程」:零训练改写Qwen权重,数学提升6倍

11月2至3日,MIT CSAIL团队公布「权重空间编程」(Weight-Space Programming)实验:让OpenAI的GPT-6 Astra直接读取并修改阿里通义千问Qwen3.5-0.8B的神经网络权重,仅改动约0.016%(约13万个权重),就使该模型在MATH-500上的准确率从7.9%升至48.1%(约6倍),且全程未用梯度下降或传统训练。Astra还能凭空「手写」出可玩小游戏的小型网络权重。与此同时,Meta等一线研究员迅速泼冷水,指出实验对模型「已知死循环缺陷」做了定向引导,并非真正的智力跃升。

为何重要:抛开炒作,「让大模型直接读懂并修改另一个模型的权重」本身就是可解释性与模型审计的重要里程碑——未来或可用于后门检测、局部缺陷修复。但把它吹成「预训练集群将被替代」显然过头。业内该记住:训练仍是通用能力的核心来源,新范式目前只是显微镜,不是印钞机。

来源:腾讯新闻 / 量子位 / 凤凰网科技(2026-11-03,https://news.qq.com/rain/a/20261103A04PN800)

四、DeepSeek V5拟基于华为昇腾950预训练,国芯训练国模破冰

11月3日,《科创板日报》、财联社援引多名产业链人士报道,DeepSeek下一代大模型DeepSeek V5计划基于华为昇腾芯片进行预训练,其中一路信源称核心训练算力为昇腾950,项目节奏指向2027年落地。此前昇腾主要用于DeepSeek模型的推理任务,双方已在编译、计算与通信工具上完成底层对齐(9月30日DeepSeek开源了面向昇腾的基础设施组件)。截至报道时,DeepSeek与华为均未公开确认该计划,模型参数、能力与时间尚未披露。

为何重要:国产算力过去两年多集中在推理侧,训练侧生态迁移成本一直是天花板。若V5真能依托昇腾完成基础预训练,将是「国芯训练国模」的标志性一步,意味着国产算力协同从「跑起来」迈向「造出来」。在高端算力受限的大背景下,这条路的每一步都有风向标意义;但传闻归传闻,最终要看官方落地与公开训练报告。

来源:科创板日报 / 财联社(2026-11-03,https://www.163.com/dy/article/LAQN6AQR05198CJN.html)

行内观察

今天四件事,表面散,内核其实一条线:AI行业正在同时「加栅栏」和「拆围墙」。加栅栏的是监管与安全——国内这套覆盖研发到部署的标准,把责任前移到了训练数据那一刻,云厂和算力方再也不能只当「卖GPU的」;OpenAI的「窃听门」则提醒所有人,安全债迟早要还,而且是在IPO路演最尴尬的时候。

「权重空间编程」被Meta研究员泼了冷水,但这事真正的价值不在「数学涨6倍」的标题,而在大模型第一次能「读懂」另一个模型的权重。圈内人都清楚,0.8B那个提升主要是修掉了官方都标注过的死循环——但「能读权重、能做局部手术」这条能力路径,比任何单点分数都值钱。别被热度带偏节奏。

DeepSeek V5传闻用昇腾950做预训练,我更愿意看成「国产算力协同」的成人礼:从推理适配到训练共建,差的就是这一级台阶。不过话说回来,这还是产业链消息,双方没官宣。行内看门道,先让子弹飞,等一份公开训练报告比现在激动更有意义。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料