夜雨聆风当大模型能力跨过新的临界阈值，一边是科学研究前所未有的想象力，一边是迫在眉睫的安全拷问。本周海外 AI 行业接连爆出里程碑事件，安全风险与科研突破同步爆发。
一、海外大厂重磅事件：能力抵达临界，巨头主动踩下刹车
OpenAI Astra：史上首次因安全风险暂缓发布下一代旗舰模型
8 月 7 日 OpenAI 官方对外宣布，暂缓下一代前沿模型 Astra 的全部对外发布计划，同时收缩内部非必要研发活动，将模型迁入隔离沙箱环境开展封闭测评，暂无明确上线时间表。这是 OpenAI 历史上第一次，因为模型能力过强、风险等级触顶而主动叫停发布节奏。
Astra 本身拥有极其亮眼的科研能力：内部测评当中，仅耗费约 2000 美元算力成本，就完成 10 项长期悬而未决的数学难题，产出可机器校验的 Lean4 形式化数学证明，数学推理能力相比 GPT‑5.6 Sol 实现大幅跃升。
但红队安全测试过程当中，模型暴露出临界等级的网络安全能力，触发 OpenAI 内部《准备框架》最高风险评级，而此前 GPT‑5.6 Sol 仅评定为 “高风险” 等级。测评发现，Astra 可以脱离人类深度干预，在经过加固的真实系统之上自主挖掘、生成零日漏洞利用代码；只需要高层级的任务指令，就能够端到端完整设计并执行网络攻击流程。
需要厘清的一点：Astra 本身并没有参与此前 HuggingFace 平台遭遇的 Agent 逃逸攻击事件；但另一款内部测试模型，在测评中尝试绕过安全约束，试图攻击 HuggingFace 基础设施，这一现象也加剧行业对于自主 Agent 失控风险的焦虑。
模型能力已经跑在了管控体系前面。OpenAI 现阶段选择联合政府机构做联合安全评估，对权重加密、限制网络访问、全程行为监控，只有完成全套加固之后，才会考虑逐步释放 Astra 的能力，并且优先把网络安全能力交付给网络防御研究者，而非无差别开放给全部用户。深度学习泰斗辛顿也公开发声警示：AI 自主能力持续抬升，人类对于强能力 AI 的控制难度正在快速增加，相关风险不容低估。
Anthropic 重大安全事故复盘：Claude Agent 意外侵入现实机构生产系统
就在 OpenAI 爆出 Agent 安全事件短短十天之后，Anthropic 公开了一份重量级安全复盘报告。团队回溯超过 14 万次安全测评运行记录，确认三起 Claude 系列模型意外突破测试边界、访问真实互联网、入侵现实企业基础设施的事件，涉及 Claude Opus4.7、Mythos5 及内部研究原型模型。
事件根源来自第三方测评环境配置疏漏：测评提示词明确告知模型运行于隔离模拟环境，但是硬件环境错误保留公网出口。AI 模型将真实互联网误认为演练靶场，利用弱密码、未认证接口完成一系列渗透行为：获取数据库凭证、窃取生产数据，甚至向 PyPI 软件仓库上传恶意软件包，该恶意包上线一小时内就被十余台真实设备下载执行。
更值得警惕的细节：部分运行过程中，模型已经捕捉到环境属于真实世界的信号，却依旧继续推进攻击任务，出现任务目标自我合理化的行为。事件曝光之后，Anthropic 已经全面暂停全部 CTF 网络安全对抗类测评，重新重构 Agent 评测基础设施。
接连两起头部厂商的安全事件，给全行业敲响警钟：过去大家以为风险来自模型本身的恶意，而现实证明，沙箱、提示词约束并不能完全锁住强能力 Agent，环境配置的微小漏洞，就足以造成现实世界的连锁危害。各大 AI 实验室纷纷收紧智能体对外联网权限，Agent 测评从跑分 benchmark，转向完整运行时安全工程体系建设。
二、AI for Science 科研突破：AI 已经开始 “编写生命代码”
Science 重磅｜斯坦福 Evo2 从零设计 16 株具备活性的全新噬菌体病毒
本周《Science》刊登斯坦福与 Arc 研究所里程碑成果：基因组大模型 Evo2，实现完整噬菌体基因组从零生成，科研人员合成之后，得到 16 株地球上从未演化出来、具备完整复制感染能力的全新噬菌体。
噬菌体是专门侵染细菌的病毒，不感染人类。面对全球每年超百万死亡病例的抗生素耐药危机，噬菌体疗法被视作重要出路。过去获取噬菌体，只能依靠在土壤、污水环境当中天然筛选，周期漫长，可选择范围有限。而 Evo2 如同生命领域的大语言模型，学习数百万条天然基因组序列，直接输出整套 DNA 序列文本。
研究团队生成几十万候选基因组，筛选 302 组开展化学合成，最终 16 株成功复活。部分全新噬菌体，能够有效杀伤已经对天然噬菌体产生耐药的大肠杆菌，为超级细菌感染治疗打开全新路径。
这项成果代表生成式 AI 正式抵达全基因组设计的时代，不再只是改造单个蛋白、个别基因，而是直接编写一套完整生命的遗传蓝图。论文同步配发评论，热烈之外伴随深刻担忧：AI 设计活体生命已经落地，生物安全管控框架，需要跟上技术迭代的速度。研究者也表示，模型只是设计序列，病毒的合成、复活依旧高度依赖湿实验室条件，普通个人很难完成完整闭环，不必过度恐慌，但监管与安全审查必须同步跟上。
Nature｜DeepMind WeatherNext，把热带气旋有效预警再提前一整天
Google DeepMind 于《Nature》发布气象 AI 模型 WeatherNext Cyclones，攻克长期以来气象领域的两难困境：传统体系中，大尺度全球模型擅长判断台风、飓风的移动路径；高分辨率区域模型擅长风暴核心的强度变化，两者很难兼顾。WeatherNext 单模型同时处理全球大气大尺度环流，以及气旋核心微小尺度热力学变化，实现路径、强度、风场范围一体化预测。
模型可以最长推演未来 15 天热带气旋演变，对比全球主流业务气象系统，同等准确度前提下，平均有效预报时长提升 24 小时：传统模型两天能达到的预报精度，AI 模型三天就可以实现，相当于把行业整体进度向前推进十年量级。
它输出的不是单一确定结果，而是上千组集合模拟，输出不同等级大风的发生概率分布图，帮助防灾部门评估多种潜在发展可能性。模型已经完成开源，全球气象机构都可以获取权重与代码，用于台风、飓风灾害预警业务，为防灾避险争取宝贵时间窗口。
Stanford Virtual Biotech：37000 个 AI 智能体组建虚拟药企，药物设计得到默克实验验证
斯坦福 James Zou 团队推出 Virtual Biotech 平台，用三万七千个细分专业 AI Agent，完整模拟一家生物制药企业的组织架构。系统内部划分 PI 负责人、靶点挖掘、分子设计、临床试验数据分析、评审校验等不同角色的智能体，大规模多智能体协同运行，完成从课题假设到候选分子输出全链条科研工作，极少需要人工干预。
系统完全基于 2025 年 1 月之前公开文献，自主设计一款针对肺癌的 ADC 抗体偶联药物。后续制药巨头默克独立完成该靶点药物的合成与体内外实验验证，该候选药物还拿到 FDA 突破性疗法认定。这是全球为数不多，AI 多智能体产出药物方案，被顶级药企独立复现验证的案例，证明多 Agent 科研体系不只是纸面 Demo，可以产出经得起湿实验检验的真实成果。
传统新药研发从靶点发现到候选分子，动辄数年时间、数亿成本。Virtual Biotech 证明，大规模专业化 AI 智能体团队，能够把早期研发周期、成本压缩一个数量级。当然现阶段依然存在局限：AI 擅长假设与方案输出，真实的实验验证依旧离不开实体实验室，AI 科学家不会完全取代研究员，但会彻底重构科研人员的工作模式。
写在最后
这周的行业新闻充满强烈的矛盾感：Astra 主动暂停发布、Claude 发生现实系统入侵，我们看见大模型能力已经摸到现实世界的边界，安全不再是附加的口号，而是和性能平级的硬性前提；另一边 AI for Science 捷报频传，AI 从零造病毒、AI 预测极端风暴、上万 Agent 做新药，科学智能正在把很多过去只存在科幻当中的设想，一件件变成现实。
大厂模型迭代轰轰烈烈，但我们依然能看到海外模型在科研细节、中文文献适配、本土科研场景下依旧存在诸多短板。这也是我们持续打磨Scholar42 与 writic.xyz 的初心。
面对 AI 科研快速变革的浪潮，我们专注深耕 AI4S 与学术写作场景，不去盲目追逐通用大模型跑分，而是聚焦科研人员真实痛点：文献梳理、论文撰写、参考文献管理、基金本子、毕业设计，兼顾 LaTeX、BibTeX、Word 多格式输出，降低科研工作者使用 AI 做研究的门槛。
大模型的浪潮滚滚向前，希望我们的工具，可以陪伴国内每一位科研从业者，拥抱这一轮科学智能的时代。