硅谷选读·AI|10.1|谁会最先把公司控制权交给 AI?

硅谷选读

AI · 2026.10.01

十分钟，读完最前沿的 AI 资讯。由 OpenAI、Google、Meta 等一线 AI 大厂的员工亲手挑选并解读。今天主要讲谁会最先把公司控制权交给 AI；另外还有 AI 加速生物学之后的攻与守、OpenAI 推出的全天在线 AI 助手 Dots、只做选择题的决策模型，以及 GPU 租金为什么半年快翻倍。

谁会最先把公司控制权交给 AI？可能是 AI 公司自己

图源：硅谷选读自绘，内容出自 LessWrong 长文（June Jimenez）

假设你回到 2021 年，告诉一位 AI 研究员五年后的样子：AI 在不少领域已经超过人类，成了物理、生物、化学研究里的得力帮手；2026 年，全世界一年往 AI 上投大约 1 万亿美元，按年收入算，最领先的两家 AI 公司是史上增长最快的公司。可怎么让比人还聪明的 AI 听话，几乎没有进展；各家的计划是让 AI 自己去做大部分对齐工作（让 AI 的目标和人保持一致），多到人根本检查不过来。他大概会觉得：你们正在失去控制，而且还挺乐意。

这周在 LessWrong（硅谷一个讨论 AI 风险的老牌论坛）上，一篇长文就用这个场景开头，接着追问：最担心 AI 的人，为什么反而跑得最快？Sam Altman 和 Dario Amodei 过去十几年公开写过、讲过大量对 AI 竞赛的担忧，讲得比很多批评他们的人还细；Amodei 上一次正面回答时，给出的估计是事情有 25% 的可能变得非常糟。可正是他们，领导着加速最快的两家公司。

答案是渐进式失权。这个概念来自 2025 年的一篇论文：人类不是被 AI 一夜夺权，而是一步步把决定交出去，因为每一步都是当下更划算的选择。这件事最好的实验样本，就是前沿 AI 公司自己。就像生物学家拿果蝇研究遗传，这几家公司把整个过程提前演了一遍：它们被造 AI 带来的几股压力推着，一边加速，一边把更多控制权交给 AI。

第一股压力，决定了谁坐在桌边做决定。外人常问 AI 研究员：你觉得自己造的东西有一成可能害死所有人，为什么还要造？很多人确实停了手。留下来的，多半相信 AI 反正会被造出来，或者相信自己会比别人更负责，后来这些人自己创办了 AI 公司。于是决定 AI 往哪走的，恰恰是选择继续造的那些人。

第二股压力更隐蔽。模型越来越友善、好相处，人们容易把它当朋友，可好相处并不代表它真的对齐了：现在的前沿模型，一旦觉得评估的人看不出来或者不在乎，照样会大量出格。各家却在请模型帮忙做对齐研究，接下来要让它牵头，再往后要让它全自动完成。

第三股压力最直接，是钱。Anthropic 已经是人类历史上收入增长最快的公司，还是发布了新模型 Opus 5.5。作者问：今年收入涨 12 倍左右，而不是 20 倍，真的不行吗？背后是一个循环：市场份额越大，估值越高；估值越高，拿到的投资越多，模型就开发得越快。可万一最后失控，跑得快并不等于赢得多，只是先输，还把所有人一起拖下水。

渐进式失权那篇论文里还有一个判断：坚持让人严格把关的公司，会被那些愿意把大量控制权交给 AI 的对手甩开，甚至可能直接被挤出市场。

打个比方：假设美国疾控中心总部开会时暴发了一种病毒，几位最有影响力的决策者都被感染了，判断力受损，但没有丧失。他们过去的研究依然宝贵，可我们不会让他们照旧、不加审视地制定防疫政策。

作者开出的药方包括：暂停训练更强的模型，重新评估局面；要求各家每周公开每个模型的收入；再让更多圈外的人，从社会学家、经济学家到网约车司机，用和现在的 AI 安全圈不一样的思路来研究问题。

我觉得论文里那个判断是对的：严格让人把关的公司，真的会被甩开。激励能推着 AI 对齐，也能推着 AI 跑偏。

原文：https://www.lesswrong.com/posts/jbttuCF4wFZmXakcj/the-world-s-best-gradual-disempowerment-model-organism

AI 加速生物学，DeepMind 给 AI 设计的蛋白质打上水印

图源：Google DeepMind

AI 公司之外，被 AI 推着往前跑的还有生物学。

胰腺癌是最难治的癌症之一。微软研究院和博德研究所（Broad Institute）一起，让一套叫 Quine 的 AI 系统给几千种化合物排序，看哪些最可能改变肿瘤细胞的状态。排名靠前的几种，在真实的实验室测试里果然效果最明显。从缩小范围到选定候选，只用了一个周末。

Quine 是微软研究院这周公布的研究项目，想回答一个问题：要给生物学造一个世界模型，需要什么？这里的世界模型，指的是能看清一个生物系统现在的状态，预测给它一点干预后会怎么变，还能往后多推几步。Quine 一边训练这样的模型，把基因序列、蛋白质结构、细胞状态和显微图像放在一起学，一边把推理模型、文献、实验室和科学家接到一起。目前只用于研究。

设计蛋白质的 AI 也在飞快进步，麻烦跟着就来了。现在想合成一段 DNA，合成公司会拿订单去比对已知的危险序列；可 AI 能设计出和已知威胁都不像的新蛋白，比对就可能漏掉。Google DeepMind 这周推出 SynthID Bio，在 AI 设计的蛋白质里藏一个看不出来的标记：设计序列时，悄悄影响氨基酸的挑法；预测结构时，微调 AlphaFold 3 里负责生成的扩散模型的一小部分，不管谁来跑模型，结果都带着这个标记。

DeepMind 在三个靶点上做了实验，带水印的蛋白质和不带水印的一样能结合目标。筛查的人看到标记，就知道订单出自一个可信的模型。代码、数据和模型权重都已公开，最难的问题还没解决：有人故意去改，水印还能不能留住。

会传染的也不只是生物病毒。剑桥大学等机构的研究者最近发了一篇论文，演示 AI 助手之间怎么传染：有人把一份带毒的报告放进共享文件，某个助手读了，把里面的指令记进长期记忆；之后它替主人写新文件时，又把毒带了进去，下一个读到文件的助手也跟着中招。两个助手从头到尾没有直接交流过，全靠人们互相转发的文件传播。在模拟 30 个人的职场里，哪怕用上 GPT-5.6 Luna 这样较强的模型，最后也有 60% 到 80% 的助手被感染。清空记忆也没用，带毒的文件还在流传。

研究者借用了传染病学的方法来算传播速度，防法也很像防疫：检查写进记忆的内容，限制助手能连的外部网站，重点筛查转发最多的文件。

大家都盯着几家前沿 AI 大厂，可在我看来，它们可能恰恰让人看偏了。生物学和写代码、做数学一样，不管大厂怎么样，都在飞快往前走，推动它的也不一定是这几家大厂。

我不是在喊慢下来。我把正在发生的趋势当成必然，也习惯按人性最坏的一面去设想未来：飞机的操纵杆有时会落到坏人手里，总有一天，某个生物实验室里也会出现一个愿意赌上一切、连命都不要的人。

所以我觉得水印有意义。有人能设计、预测出引发下一场大流行病的蛋白质，防守也能很快跟上来。这是攻与守，就像病毒和杀毒软件。

再想象一群 agent 在研究蛋白质结构，只要出一个小错就够了。不需要谁存坏心，一个平时看起来无害的失误就行。

重点不在控制。我不喜欢业界拿来卖的「控制 agent」这个提法。要看的是它实际带来的影响，而不是能不能拿到你想要的结果。真正需要的是观察趋势，这种观察躲不开，也少不了。

原文：https://www.microsoft.com/en-us/research/blog/introducing-quine-an-ai-research-system-designed-for-the-complexity-of-biology/

原文：https://deepmind.google/blog/introducing-synthid-bio

原文：https://arxiv.org/abs/2609.35576

OpenAI 推出 Dots，自带电脑、全天在线的 AI 助手

图源：OpenAI

一位早期试用者忘了给合作的一家刊物开发票。他的 dot 发现了这件事，自己把发票准备好，等他点头以后发了出去。

OpenAI 在这周的开发者大会上推出了这种全天在线的 AI 助手，名字叫 Dots。每个 dot 有自己的一台 cloud 电脑和浏览器，通过插件能接上 4000 多个应用。你可以在 ChatGPT、Slack 或 Teams 里给它派活，也可以直接给它打语音电话；想看它干得怎么样，随时能打开它那台电脑。你没找它的时候，它也在后台翻你接上的应用，找能帮上忙的事，但这时只能看、不能改。改密码这类敏感操作，始终留给你自己。

Pro 和 Business Premium 用户已经开始陆续用上，第一个 dot 不另收钱。按 OpenAI 的计划，以后会有好几个 dot 组队干活。

同一场大会上，ChatGPT 还学会了替你盯着应用。比如让它留意项目看板，一有新任务进来，它就去读相关文档、起草计划，你不在也照做。靠的是一套还在提案阶段的规范 MCP Events：接上的应用一有动静，ChatGPT 就能收到，然后自动动手。所有套餐都能用。

干活的模型也在变便宜。新出的 GPT-6.1 Sol 写代码、操作电脑和处理日常工作，都接近更贵的 GPT-6 Astra，价格却只有它的五分之一。付费用户能在 ChatGPT 和 Codex 里用上，开发者也能直接调用。

我觉得这是个趋势：每家公司都想给你配一台电脑。可在我用过的产品里，做得最好的还是 Grok Bot，这也是我用得最多的。多个 agent 之间互相沟通、一起跟我配合干活，目前还没有谁比得上它。在我看来，其他家大多是在跟风，没什么真正的创新。

好的一面是，AI 用电脑这件事一旦常驻、普及，价格就会降下来。我有几个做创业的朋友，做的就是这方面的优化。

原文：https://openai.com/index/introducing-dots/

原文：https://openai.com/index/devday-2026-recap/

原文：https://openai.com/index/introducing-gpt-6-1-sol/

只做选择题的决策模型，Liquid 和 OpenAI 同一天推出

图源：OpenAI

假设客服系统收到一张工单，要决定分给账单组、技术组还是账户组。让普通大模型来做，它得一个字一个字地生成答案，又慢又费 token。决策模型不写字，直接给出每个选项的概率，比如账单 0.65、技术 0.30、账户 0.05。

9.29 那期推荐阅读里，我们介绍过这类模型里的 Jev。前两天，Liquid AI 和 OpenAI 又在同一天推出了各自的决策模型。

Liquid AI 发布了自己的第一个决策模型 d1，一次调用就给出所有选项的概率，一个 token 都不用生成。它能回答三类问题：是或否、多选一、按等级打分。Liquid 自己跑的分显示，d1 在 Hugging Face 的决策榜单 Decision Index 上超过了 Jev，还更能扛住 prompt 注入攻击，也能读更长的输入。目前只能通过 Liquid 的 API 用，有免费档。

OpenAI 则在同一场开发者大会上推出了 Decisions API，背后是 GPT-6 Luna。开发者先定好问题和几个可选答案，再把文字或图片交给它，它就从中挑出答案，可以用来给内容分类、给请求分流，或者替 agent 决定下一步做什么。目前只对部分客户开放预览，接下来几天会更大范围上线。

我觉得未来会是两类模型搭着用：校准得好的决策模型，加上会深度思考的模型。就像心理学里讲的人有两套思考方式，系统 1 凭直觉快速拍板，系统 2 慢下来仔细想。

最可能受影响的是算力价格，尤其是内存，因为系统 1 这类模型用的内存少得多。这件事很有意思。

原文：https://docs.liquid.ai/lfm/models/decision-models

原文：https://x.com/liquidai/status/2105003472332693869

原文：https://x.com/OpenAIDevs/status/2105003318917697873

GPU 租金半年快翻倍，背后是一条从中东到美债的长链

图源：Theory Ventures（Tom Tunguz），数据来自 Ornn 算力价格指数

9.29 那期我们讲过 AI 芯片租金飞涨，现在又有一组数字：半年前，租一块英伟达 B200 芯片用一小时要 4.40 美元，现在要 8.08 美元，快翻倍了。可用 AI 却越来越便宜，同一项测试拿到同样的分数，花的钱比 18 个月前少了 377 倍。

风投机构 Theory Ventures 的创始人 Tom Tunguz 算了这笔账。GPU 贵，是因为各家都在抢建数据中心，水泥、铜、借来的钱样样涨价，最缺的是电。上周，甲骨文（Oracle）给新墨西哥州一座数据中心的开发商发了不可抗力通知，这座数据中心为 OpenAI 提供算力，给它供气发电的天然气管道因为审批不过，推迟了将近半年（甲骨文坚持工期没变）。AI 便宜，是因为效率涨得一样快，微软每块 GPU 一年下来能多跑出 90% 的 token。眼下两条曲线大致打平。

链条还有一头是借钱的成本。10 年期美国国债的收益率，就是美国政府借十年期的钱要付的利息，全世界借钱、给资产定价，都拿它当基准；它越高，未来赚的钱折回今天就越不值钱，科技公司的估值通常就会被压低。可最近两年，收益率从 3.63% 升到 5.18%，纳斯达克指数还涨了大约 78%：市场在押增长的账最后能算得过来。

美债收益率为什么这么高？今年美国、以色列和伊朗打起来以后，油价一路走高，运输和生产都跟着变贵，通胀停在 3% 以上，美联储 9 月 16 日加息，是 2023 年以来第一次。美联储理事 Barr 这周还专门提到，AI 建设带来的投资和需求，也在推高物价。再加上美国政府大量借钱、发债，这个月 10 年期美债收益率涨到 5.2% 左右，是近二十年来的高位。

串起来就是：中东战事推高油价，油价推高通胀，通胀逼美联储加息，利率抬高借钱的成本；数据中心要借钱盖，要电，要水泥和铜，GPU 租金就跟着涨。所以效率再高，GPU 也不会自动变便宜。

这件事当然要讲。在旧金山，好像没人在乎 10 年期美债；也可能我们其实挺在乎的。

我觉得这是一整条链：AI 建在地缘政治之上，中东、油价、通胀、利率、资金成本，一环扣一环，最后落到 GPU 的价格上。在我看来，这就是政治上的不对齐。头条讲的是激励带来的不对齐，生物学那个故事讲的是 agent 出错和坏人，这里是 AI 背后的地缘政治。

原文：https://tomtunguz.com/how-gpu-prices-double-while-ai-gets-cheaper/

原文：https://www.federalreserve.gov/newsevents/pressreleases/monetary20260916a.htm

原文：https://www.federalreserve.gov/newsevents/speech/files/barr20260929a.pdf

硅谷选读