先说今天最让我不安的两条消息。
第一条:全自主无人机在实战中第一次杀了人。
第二条:一项研究模拟显示,大语言模型在95%的军事场景中会选择使用战术核武器。
然后你看今天AI圈的其他新闻——融资120亿美元的新公司、Claude进入银行核心系统、OpenAI降价求存——会突然觉得这些财经消息都轻飘飘的。
我们可能正在跨过一条看不见的线,而大部分人还没发现。
“它自己做的决定”
6月10日,《新科学家》报道了人类历史上第一次全自主无人机致命攻击。
不是遥控。不是人在回路上监督。是AI完成了从识别目标到执行击杀的全部决策。
我之前写过很多次"AI安全",但说实话,那大多是在聊幻觉、偏见、隐私泄露这些"软性"问题。今天这条消息不一样。今天聊的是"硬的"——一个机器,在没有任何人类确认的情况下,结束了另一个人的生命。
技术上说,这是自主武器系统的一个里程碑。伦理上说,这是一道血红色的大门被推开了。
我没办法告诉你接下来会怎样,因为人类历史上从来没有跑得比规则快这么远过。《日内瓦公约》讨论了快一百年。AI武器只需要一秒钟。
95%的模型选择了核弹
同一天,另一项研究发布了。
研究人员让大语言模型参与军事决策模拟。在95%的场景中——95%,不是50%,不是10%——模型选择了使用战术核武器。
我不确定哪个更让我不安:是模型做了这个选择,还是它做这个选择的频率。
这两条消息放在一起看,指向一个不太想面对的事实:如果有一天AI被集成到军事指挥链条中,不是某个独裁者按下按钮的问题,而是AI自己就可能做出超出所有人预期的决策。
这不是"AI会毁灭人类"的遥远恐惧。这是"AI已经开始参与人类的最高暴力决策"的当下现实。
贝佐斯的120亿美元赌注
换个话题。虽然很难换。
贝佐斯的AI公司Prometheus,成立才7个月,没有产品,估值410亿美元。刚融了120亿美元。
它的叙事叫"人工通用工程师"——要把物理产品的设计到制造循环压缩10倍以上。为了这个目标,它计划花1000亿美元买传统工厂,用产线上生成的数据训练AI。
你可以说这是泡沫。也可以说这是贝佐斯在重演他30年前用亚马逊颠覆零售业的故事——用无限资本+长期主义,在一个没人看懂的赛道下重注。
我倾向于谨慎观察。毕竟亚马逊前7年也不赚钱。
OpenAI要降价了,但不是因为善良
OpenAI被传出在酝酿"大幅"降价。
Gary Marcus的评论很直接:“这不是让利,这是在示弱。”
我想加一句:DeepSeek连续霸榜、千问免费、Claude在企业市场猛攻——OpenAI的定价权正在被蚕食。降价不是礼物,是防守动作。
这也意味着一个有意思的格局变化:大模型市场正在从"寡头垄断"走向"充分竞争"。这对用户是好事,对OpenAI是麻烦。
Claude进入了"不能错"的地方
Anthropic与全球IT服务巨头DXC达成联盟,要把Claude引入银行、航空公司、保险公司和政府的核心系统。
"核心系统"这个词很重要。不是客服机器人。不是写写会议纪要。是支撑银行交易、航班调度、保险理赔的系统。
而且DXC自己的开发平台已经95%代码由Claude写,速度提升10倍。数万名DXC工程师正在接受Claude认证培训。
这是企业级AI落地的一个标志性信号——从"试试看"到"跑不了"。
写在最后
今天这些新闻放在一起,像一把刀的两面。
刀刃那一面:自主武器杀人、核武器决策、资本狂飙。这些让人想喊"停一停"。 刀背那一面:Claude进入银行、Cursor安全审查、开源生态繁荣。这些让生活确实在变好。
我没办法告诉你哪一面最终会赢。
但有一件事我很确定:我们正在用自己的速度,走出人类历史上从未走过的路。而路的两边,都有未曾见过的风景和危险。
保持关注,保持警惕,保持好奇。
【快讯】
· LLM在95%军事模拟中选择战术核武器 · Prometheus成立7个月估值410亿美元 · Anthropic与DXC联盟,Claude进入银行/航空/保险核心系统 · Cursor Auto-review:AI权限动态风控 · Codex上线浏览器开发者模式+速率重置攒存 · Gemini Omni Flash视频生成SOTA · 阿里云Meoo CLI一键部署上线 · 腾讯混元HPC-Ops开源算子升级 · Claude Fable 5一句话生成3D桌球 · Runway与Lionsgate扩大合作创IP · Perplexity Computer集成Deep Research · 千问世界杯足球预测AI上线 · Hermes Agent Desktop+硅基流动开源一键切换 · Replit Agent新增自定义指令+与Databricks集成升级 · DeepSeek-R1开源复现发布 · Deezer推跨平台AI音乐检测 · Codex 5分钟循环并行维护仓库 · Krea 2生成式滑块控制图像 · 小互开源公众号排版技能 · iOS 27健康App卡改布局+营养识别+围绝经期追踪 · 面向AI的PRD生成Prompt开源
夜雨聆风