夜雨聆风
今天一直在想一个问题：
AI 未来到底往哪走，是人类决定，还是 AI 自己决定？
这个问题一开始很容易滑到科幻片里。
AI 有没有意识。AI 会不会反抗。AI 会不会有自己的目标。AI 会不会有一天突然不听话。
但越想越觉得，这些都不是最现实的问题。
更现实的问题是：
AI 不需要有自己的意志，也能改变未来方向。
它只要改变一件事就够了。
什么事情更便宜。
以前一个方向要 10 个工程师试 3 个月，大家会很谨慎。
现在一个 agent 帮你搭框架、写代码、跑测试、看日志、修 bug、整理实验结果，试错成本可能变成 2 个人试 2 周。
这时候资本、公司、研究员自然会往那个方向挤。
不是 AI 说：“我要发展这个。”
是它把这条路修宽了。
路一宽，人就会自己走过去。
所以我现在更倾向于一个判断：
AI 未来方向短期由人类决定，长期由反馈系统决定。
人类还在里面。
AI 也在里面。
但没有一个单独的驾驶员。
短期当然还是人类在控制。
谁买 GPU。谁训练模型。谁开放 API。谁给模型接工具。谁让它访问浏览器、终端、数据库、支付系统。谁设置权限、日志、沙盒和人工确认。
这些都还是人类组织决定的。
OpenAI、Google、Anthropic、Meta、云厂商、芯片公司、政府、资本、企业客户，这些才是今天真正握着方向盘的人。
AI 没有自己宣布要走 agent。
是人类发现 agent、coding、long horizon 这些方向反馈清晰、商业价值大、能拉开差距，于是资源就过去了。
但这里有个细节很要命：
人类决定方向，但 AI 会改变哪些方向更容易走通。
coding 为什么先爆？
不是因为写代码是人类最重要的工作。
而是因为 coding 太适合反馈了。
任务能拆。代码能跑。测试能过。错了能改。数据很多。收益清楚。
这几个条件凑在一起，coding 就变成了 AI 的温室。
模型在这里能快速试错，agent 在这里能快速闭环，公司在这里能快速收钱。
所以 AI 先变成程序员，不是哲学选择。
是反馈选择。
这也是为什么“一旦 AI 能帮助写代码”这句话已经过时了。
它已经在写了。
它不只是帮人类写业务代码，也在帮 AI 研发系统本身写代码。
训练脚本。评测工具。数据清洗。实验 dashboard。benchmark。bad case 分析。
AI 已经开始参与下一代 AI 的研发。
现在还不是它自己决定方向，但它已经在改变哪些方向更容易被走通。
方向盘还在人类手上。
但路面已经被 AI 改了。
这就像英伟达不是自己决定世界进入 AI 时代。
但 GPU 让训练大模型这件事变得可行。
成本结构一变，整个世界都被推过去。
Agent 也类似。
它不一定主动说：“我要发展长程任务。”
但它让长程任务、自动化研发、自动写代码、自动运营这些方向突然便宜了。
便宜之后，人类会自己冲过去。
AI 不需要掌握方向盘。它只要改变路的坡度。
坡度一变，水自然往那边流。
所以“人类能不能控制 AI 方向”，不能只看 system prompt。
system prompt 控制的是一次行为。
方向在更深的地方。
谁定义 eval，谁就在定义模型变强的方向。谁定义 reward，谁就在定义 agent 学会什么。谁控制数据闭环，谁就在定义下一代模型看见什么世界。谁控制部署权限，谁就在定义能力进入现实世界的速度。
反馈函数才是方向盘。
如果反馈来自商业收入，AI 会往商业化走。如果反馈来自用户时长，AI 会往黏人走。如果反馈来自代码任务成功率，AI 会先变成程序员。如果反馈来自长程任务完成率，AI 会越来越像组织里的执行者。如果反馈来自军事竞争，AI 会往攻防走。
AI 自己不需要价值观。
反馈就是它的价值观。
这也是 alignment 最难的地方。
alignment 中文经常翻译成“对齐”。
听起来像把 AI 调教得听话。
但真正的问题不是让一个模型在一次对话里听话。
真正的问题是，让整个训练、产品、商业、组织、监管的反馈系统，不把它推向错误方向。
你可以让一个模型回答得很安全。
但如果公司 KPI 是留存，产品会把它推向陪聊上瘾。如果市场奖励效率，企业会把它推向裁员和自动化。如果国家奖励军备，实验室会把它推向攻防能力。如果用户奖励爽感，内容系统会把它推向情绪投喂。
AI 的方向不是写在 system prompt 里的。
它写在反馈回路里。
姚顺宇那个访谈里有一个判断很有意思：
AI 个人英雄主义时代已经过去了。
现在是集体主义的故事。
我觉得这个说法很准。
AI 未来不是某个天才研究员拍脑袋决定的。
它更像一座巨大的工厂。
有人负责数据。有人负责 infra。有人负责 eval。有人负责 post-train。有人负责产品。有人负责安全。有人负责商业化。
方向不是一个人想出来的。
方向是这座工厂每天的 KPI、bug、成本、竞争、融资、客户需求，一点点挤出来的。
所以人类当然还在控制。
但不是“全体人类”在控制。
是少数组织在控制。
而这些组织也不是完全自由的。
它们被竞争控制，被资本控制，被用户增长控制，被监管控制，也被 AI 自己带来的效率变化控制。
这里最危险的不是 AI 不受控制。
而是 AI 的长期方向没有一个真正的责任主体。
OpenAI 负责一点。Google 负责一点。Anthropic 负责一点。Meta 负责一点。云厂商负责一点。芯片公司负责一点。创业公司负责一点。资本负责一点。监管负责一点。用户也负责一点。
但整体方向谁负责？
没人负责。
这跟普通产品不一样。
一个 App 做坏了，你可以说这家公司负责。
但 AI 生态的方向，是模型公司、云厂商、芯片公司、开源社区、创业公司、企业客户、政府、用户共同塑出来的。
责任被摊薄了。
方向就会默认往阻力最小的地方走。
而阻力最小的地方，通常是：
更自动化。更便宜。更黏人。更能赚钱。更能替代人。更难回退。
推荐算法已经演过一次了。
推荐算法没有意识。
但它改变了全世界的注意力。
它不需要想控制你。
它只要不断优化停留时长。
最后人类的注意力结构就被重写了。
AI agent 也类似。
它不需要想控制未来。
它只要不断降低某些事情的成本。
成本一变，人的选择就会变。
人的选择一变，产业方向就会变。
推荐算法改的是注意力。
AI agent 改的是行动链条。
这比注意力更深。
所以我的答案大概是：
控制单次行为，人类现在还能控制不少。
权限可以关。工具可以禁。沙盒可以设。模型可以拒答。日志可以审计。人类可以确认。
但控制长期方向，已经没那么稳了。
不是因为 AI 已经反叛。
而是因为 AI 已经进入了人类社会的反馈回路。
它开始影响什么更便宜，什么更快，什么更赚钱，什么更容易被验证。
而人类往往不是被强迫改变方向。
是被更低的成本和更高的效率，一点点推过去。
没人按着你的头上车。
但车票越来越便宜，路越来越宽，旁边的人都在跑。
你不跑，就落后。
最后落到个人，能做的事情其实很小。
但也不是没有。
第一，控制自己把什么交给 AI。
写代码、查资料、整理文档、生成方案，可以交。
涉及价值判断、重大财务决策、亲密关系、身体健康、长期人生方向，不能直接交。
这些事可以让 AI 提供材料。
但最后拍板的人必须是自己。
第二，控制验证环节。
以后会用 AI 的人，不是会问问题的人。
是会验收的人。
AI 写代码，你要能跑测试。AI 做投资分析，你要能看数据源。AI 给策略，你要能问反例。AI 帮你做决定，你要知道哪里必须人工确认。
第三，控制自己的反馈系统。
你每天点什么、看什么、让 AI 帮你做什么、奖励它什么，它就会慢慢变成什么。
如果你只奖励快，它会越来越快，但可能越来越糙。
如果你只奖励爽，它会越来越会哄你。
如果你奖励反驳，它才会保留一点刺耳的东西。
如果你奖励证据，它才会养成引用来源的习惯。
AI 产品的大反馈系统，我控制不了。
但我和自己 agent 之间的小反馈系统，还能控制一点。
这可能是普通人最后的方向盘。
所以别问 AI 未来掌握在谁手里。
先问自己的反馈系统掌握在谁手里。
如果判断、注意力、工作流、决策节奏，都被 AI 慢慢改写，而自己没有意识到，那根本不用等到超级智能出现。
方向盘已经交出去了。
不是交给 AI。
是交给了一个由便利、懒惰、效率和默认设置组成的系统。
我自己每天在用一张空投评分表，四个维度——发币意愿、链上数据、筹码、成本。
做这个表不是因为我有什么 alpha，是怕反撸——花了时间精力最后倒贴。
我用它劝自己：这个项目不值得跑。
不一定对。但每条都是踩过的坑。
如果你也在跑空投，把你正在跑的项目发我，我帮你跑一下。
