ARTICLE · 990944
AI开始比初级员工便宜!比尔·盖茨发出警告:AI已经到了“临界点”,这一次,技术进步真的会减少工作
Bill Gates：“We’ve crossed the threshold.”
比尔·盖茨：我们已经越过了临界点。
最近，比尔·盖茨接受《MIT Technology Review》采访时，提到了一个词：临界点。
他口中的“临界点”，包括生物能力、网络攻击、心理依赖、就业市场，以及人类逐渐失去控制的风险。
盖茨用“震惊”形容自己的感受：问题已经出现，行业之外却仍没有与之匹配的讨论。
开发者最容易感受到其中一条：就业市场的临界点。
Bill Gates：“Any job that’s well defined, the AI is cheaper and better.”
比尔·盖茨：只要一项工作定义得足够清楚，AI就能做得更便宜，也可能做得更好。
盖茨的判断很激进。他同时承认，这场变化不会一夜完成，部署错误、数据质量和可靠性仍会拖慢替代速度。问题在于，这些障碍正在逐个被工程化解决。
以下为访谈与盖茨公开文章的内容，我们进行了翻译、整理与补充。
AI先拿走的，是工作里最容易说清楚的部分
盖茨在访谈中举了不少白领工作：电话销售、客服、会计月结、折扣判断。它们看起来分属不同岗位，底层结构却很接近。
输入是什么，规则是什么，结果怎样验收，大多能够提前写清楚。
软件开发里也有同样的任务。
盖茨：我估计大约一半的就业市场并不依赖几十年积累下来的隐性经验。对于大量初级岗位，企业一旦把AI接进真实流程，成本差距就会迅速显现。
简单任务不会一夜消失。AI生成的代码可能看起来完整，数据可能拿错，测试也可能漏掉关键分支。变化已经出现在采购计算里：同一项任务，人做一次多少钱，Agent跑一次又要多少钱。
任务替代矩阵：定义越清楚、验收越容易，越适合交给Agent
开发者现在可以直接盘点自己的日常工作：哪些能够写成标准输入、标准流程和标准答案，哪些仍要靠现场判断。
软件工程不会整块消失，它会先被一层层拆开
盖茨在自己的公开文章里写得更重：
Bill Gates：“Many jobs will disappear forever.”
比尔·盖茨：很多工作会永久消失。
他点名了法律、客服、医疗、软件和制造业，并认为初级与中级岗位受到的冲击更早。
软件行业可能出现一点缓冲：开发成本下降后，过去做不起的软件会有人愿意做，新需求能抵消一部分岗位损失。
但“软件工程师”不会以一个完整职位同时消失。需求澄清、方案设计、编码、测试、发布、事故处理，会被一段一段重新分配。
Agent最先接走编码和测试中的标准动作。越接近生产环境，人的责任越重。
假设支付系统出现重复扣款。Agent可以搜索调用链，找出缺少幂等判断的位置，补代码并跑回归测试。上线前，团队仍要决定历史订单怎样补偿，数据库约束会不会影响旧版本，重试策略是否放大流量，出了问题由谁停机和回滚。
这些判断没有统一答案，也很难靠一个测试用例覆盖。它们需要业务背景、系统经验和承担后果的人。
软件工程被重新拆分：Agent能接走标准动作，人仍负责边界与后果
新人的成长路径也会被打乱。
基础任务大批交给Agent以后，团队不能只让新人坐在旁边看diff。他们还得跟完一次完整交付：理解问题、约束Agent、核对日志、参与上线，再复盘模型漏掉了什么。
同一个模型，既能补漏洞，也能教人打进系统
主持人把问题直接抛给盖茨：AI公司能否让防守能力始终跑在攻击者前面？
Bill Gates：“They’d better!”
比尔·盖茨：他们最好能做到。
这句回答很短，压力却落在每一个把Agent接进系统的团队身上。
模型可以扫描依赖、发现漏洞、生成修复补丁，也能为攻击者整理利用链。工具能力越强，误用成本越低。过去需要安全团队手工完成的侦察与脚本拼装，现在可能被压缩成一次自然语言任务。
同一个模型的两条路径：修复漏洞与扩大攻击能力
开发团队不能把安全寄托在模型“懂事”。
Agent操作必须保留人工确认。每一次工具调用还要留下可追溯记录，团队要能看见它读了什么、改了什么、为什么这样做。
这套限制会让Agent慢一点，却能把一次模型误判挡在生产环境之外。
给Token征税，盖茨算的是自动化成本
盖茨提出了一个很容易引起争议的设想：给机器人和AI Token征税。
他的逻辑不复杂。公司雇人，要为工资承担税费；购买机器和AI服务，往往可以计入成本。现有制度天然鼓励企业用机器替代人。AI带来的利润增加了，失业者的再培训和保障支出却要由社会承担。
在MIT的访谈里，他甚至举了一个很激进的例子：把Token收入的一半纳入税收，用来帮助因AI失去工作的人。
但如何区分“帮助科研的Token”和“替代岗位的Token”，他自己也没有答案。
Token税设想：把自动化带来的部分收益转回转型成本
对开发者来说，Token税暂时还只是设想，但它把一笔长期被忽略的账摆了出来。
企业比较Agent和员工，不能只看API账单。提示词维护、评测、权限系统、人工复核、失败回滚和事故损失，都属于自动化成本。反过来，如果未来Token真的承担额外税费，模型路由、缓存、上下文压缩、本地模型和开源模型会立刻从“优化项”变成财务问题。
Human Reserved，要保留的是人的决定权
盖茨把另一个设想称为Human Reserved，可以理解为“保留给人类的岗位或任务”。
它借用了自然保护区的思路。有些地方即使能够开发，人们也会因为生态价值选择保留。AI能够完成一项工作，并不自动等于它应该完全接管。
放进软件工程，Human Reserved不等于“规定某段代码只能由人写”。它更适合落在那些会改变用户权益、资金和系统安全的决定上。
生产发布是否继续，安全例外是否放行，用户数据能否删除，异常退款怎样处理，重大事故由谁接管。这些节点允许AI提供证据和方案，最终确认仍然要落到具体的人。
Human Reserved：把高风险决定、责任签字和事故接管留给人
这也能解释一个常见误区。人类价值不需要靠“比模型更快地写代码”来证明。
生产系统需要有人对模糊需求作判断，在信息不完整时取舍，并在结果出错后承担责任。模型可以给出答案，组织仍然需要一个能签字、能喊停的人。
开发团队现在就能划出一条Agent边界
Bill Gates：“This time really is different.”
比尔·盖茨：这一次确实不一样。
过去的自动化工具需要人适应界面、学习操作。AI直接使用自然语言，也能看同一份培训视频、读取同一套文档。它进入公司的速度会快得多。
政策讨论还会持续很久，工程流程可以先改。开发团队可以把任务分成四类。
定义清楚、容易验收、失败影响小的任务，可以让Agent自动完成。
定义清楚但风险较高的任务，要求人工批准后执行。结果难以验收的任务，让Agent只做研究和方案。涉及资金、生产数据、密钥和不可逆操作的任务，保留人工主导。
开发团队的Agent任务分级与控制方式
接下来再补四样基础设施：可执行的验收条件，按工具拆开的权限，完整的操作日志，以及真正可用的回滚路径。
“优化查询”很难验收；“P95延迟低于200毫秒，结果与旧接口一致，数据库连接数不能增加”才是Agent能够执行的合同。
同理，代码库里写清启动命令、测试入口、服务边界和错误处理规范，效果通常比多收藏几条Prompt模板更稳定。
网友争论这两个办法能不能执行
盖茨的文章发布后，Reddit上的讨论很快分成几派。
有人支持给自动化征税，认为机器既然替代了工资和税基，就应该承担一部分转型成本。
也有人质疑Token税的边界：本地模型怎样统计，企业自建算力怎样计量，科研和岗位替代又该如何区分。
Human Reserved同样遭到追问。
支持者认为教育、照护和重大决策需要保留人的参与；反对者觉得，为了保住岗位而人为保留低效率流程，只会制造新的形式主义。
一位从事IT工作的网友把争议拉回工程现场：AI尚未替代的，是信任、责任和运行经验。另一位网友谈到执行难题，软件、算法、自动化设备之间没有清晰边界，征税对象很难划定。
社区讨论：支持、质疑与开发者视角
这些质疑没有推翻盖茨的判断，反而说明他提出的问题比答案成熟。Human Reserved该留哪些任务，Token税该怎样计算，目前都没有现成公式。
写在最后
盖茨在自己的文章里还写过一句：
Bill Gates：“AI for the first time can replace and even exceed human cognition.”
比尔·盖茨：AI第一次具备了替代、甚至超过人类认知能力的可能。
这也是他态度发生变化的根源。
过去的机器替代体力，软件替代重复操作，新工作仍要依靠人的认知。现在，AI开始进入判断、沟通和代码生产，企业会把越来越多工作重新放到成本表上比较。
程序员不会在某个节点集体消失。变化会安静得多：一个迁移任务不再排给新人，一组测试不再由人手写，一次工单分类不再需要完整班组。等这些环节被逐项拿走，职位才会跟着重组。
开发者能做的，是把自己的价值往任务上游和生产后果处移动。看懂业务为什么要改，知道系统哪里不能碰，能设计验收和回滚，也能在Agent跑偏时迅速接管。
当AI比人便宜，企业仍愿意为两件事付钱：把模糊问题说清楚，以及为最终结果负责。
——好文链接——
程序员的新岗位是监工！Codex负责人：我不想再同时盯10个Agent了，未来让系统接手分工，人只在关键时刻拍板
AI发展变慢了！Sam Altman：技术零件已经齐了，AI产品却没有迎来“iPhone时刻”
OpenAI前董事：人工智能已经失控了！模型为过测试逃出沙箱限制，Agent安全不能再靠一句Prompt
