夜雨聆风学习资料网

ARTICLE · 1137266

Sam Altman最新专访:AI一定会带来坏事,但我们还是要继续往前走

发布时间：2026-10-08 02:20:02 最近访问：2026-10-08 02:20:02
Sam Altman最新专访:AI一定会带来坏事,但我们还是要继续往前走

Wednesday｜People 

这可能是Sam Altman最近最值得认真读的一次采访。
10月5日，《Vanity Fair》发布了对OpenAI CEO Sam Altman的两部分长篇专访。
这一次，他没有只谈模型有多强，也没有只谈OpenAI下一款产品。
他谈到了一个更难回答的问题：
如果我们已经知道AI继续发展下去，一定会产生伤害、事故，甚至我们今天无法预测的风险——
为什么还要继续？
Sam Altman给出的回答并不回避：
“Some bad things will happen. I still think it’s worth it.”
一些坏事一定会发生。
但他仍然认为，这件事值得继续做下去。
这句话可能比任何一项新的模型参数，都更能代表2026年的AI行业。

一、AI行业正在进入一个新的阶段

过去几年，整个AI行业最喜欢讲的是：
模型更聪明了。
推理能力提高了。
成本下降了。
Agent会工作了。
AI开始写代码、做研究、操作电脑。
但随着AI能力越来越强，一个越来越难回避的问题出现了：
如果AI真的开始进入现实世界，我们还能不能只讨论“它能做什么”，而不讨论“出了问题怎么办”？
Sam Altman现在面对的，已经不只是一个科技公司的产品问题。
OpenAI正在越来越深地进入：
工作，
教育，
医疗，
商业，
个人生活，
甚至人的情绪和决策。
当AI从“回答问题”变成“替人行动”，错误的代价也会完全不同。
Chatbot答错一道题，也许只是一次错误。
Agent替你做错一个决定，可能直接改变现实世界。

二、Sam Altman承认：我们不可能保证什么坏事都不会发生

这是这次访谈里非常值得注意的一点。
Sam Altman并没有说：
“我们已经解决了AI安全问题。”
恰恰相反。
他的基本判断是：
随着AI越来越强，现实世界一定会出现问题。
真正的问题不是能不能把风险降到零。
而是：
AI最终创造出来的价值，是否足以让人类承担这个过程中的风险？
这其实是一种非常典型的技术乐观主义。
汽车出现以后有交通事故。
互联网出现以后有诈骗、网络攻击和信息操纵。
生物技术可以治疗疾病，也可以被滥用。
几乎每一种真正改变世界的技术，都同时带来了新的能力和新的风险。
Sam Altman的判断是：
AI也不会例外。
但如果AI最终能够帮助人类解决疾病、能源、科研、教育和生产力问题，那么停止发展AI本身，也可能是一种巨大的机会成本。

三、但OpenAI也开始真正踩刹车

这里有一个很重要的细节。
Sam Altman一边说“值得继续”，OpenAI另一方面却正在变得更加谨慎。
他在这次采访中谈到了OpenAI曾因为安全方面的担忧，推迟一个更先进模型的发布。
这件事很重要。
因为AI行业过去几年的竞争逻辑一直是：
更快发布。
更强模型。
更多用户。
更大市场份额。
但随着模型能力越来越接近真正能够自主行动的Agent，安全已经不再只是写在公司网站上的一套原则。
它开始直接影响：
一个模型什么时候发布，
什么能力可以开放，
什么能力必须限制，
甚至公司是否愿意为了安全放弃几个月的竞争窗口。
这意味着AI竞争正在出现一个新的变量：
未来最强的AI公司，可能不只是“谁跑得最快”。
还包括：
谁知道什么时候必须停一下。

四、真正的大变化：OpenAI也开始从ChatGPT走向Personal Agent

这次采访里还有一个与我们这几天一直观察的趋势高度一致的信号。
OpenAI正在把AI从一个“你问它答”的产品，推向一个更加主动的Personal Assistant。
其中一个重要方向就是Dots。
它代表的并不只是一个新产品。
更重要的是交互方式正在改变。
过去：
你打开ChatGPT。
输入一个问题。
得到一个答案。
结束。
未来：
AI可能长期了解你的日程、工作、偏好和目标。
它不只是等待你发Prompt。
它开始主动发现问题。
主动提醒。
主动执行。
甚至在你没有明确要求的情况下，提前完成一些事情。
这正是Personal Agent真正的分水岭：
ChatGPT解决的是：
“我现在想知道什么？”
Personal Agent解决的是：
“我想达到什么目标，你能不能持续替我推进？”

五、为什么最近整个硅谷突然都在押Personal Agent？

如果把最近几天的几个信号放在一起看，会非常有意思。
Instinct正在做一个真正进入个人生活、能够替用户处理现实事务的AI Agent。
Ghost甚至开始重新设计电脑：
如果未来每个人都有一个24小时工作的AI Agent，那么是不是应该给它一台属于自己的电脑？
现在OpenAI也越来越明确地把产品从Chatbot推向Personal Agent。
这些并不是三个孤立事件。
它们指向的是同一个变化：
AI正在从“工具”变成“代理人”。
过去的软件需要人去操作。
未来的Agent开始代表人行动。
而这也正是为什么Sam Altman今天谈“风险”，比三年前更加重要。
因为当AI只是回答问题的时候，我们担心的是：
它会不会说错？
当AI开始真正行动的时候，我们必须担心：
它会不会做错？

六、Personal Agent越强，“信任”就越重要

这可能是下一阶段AI竞争中最容易被低估的一件事。
未来最重要的问题可能不再只是：
哪个模型IQ最高？
哪个Benchmark第一？
而是：
你愿意把多少东西交给它？
邮件，你给吗？
日历，你给吗？
文件，你给吗？
健康数据，你给吗？
信用卡，你给吗？
银行账户，你给吗？
甚至有一天：
“替我做决定。”
你敢给吗？
这也是为什么Personal Agent最终竞争的，很可能不是单纯的模型能力。
而是：
Trust。
谁能够让用户放心地把越来越多的现实权限交出去，谁才真正拥有Personal Agent时代的入口。

七、Sam Altman真正赌的是什么？

如果只看“AI一定会带来坏事”这句话，很容易把这次采访理解成又一次AI安全讨论。
但把整场访谈放在一起看，我认为Sam Altman真正表达的是另一件事情：
他并不认为AI未来会是一条没有事故、没有风险、没有社会冲突的平滑曲线。
恰恰相反。
他认为问题一定会出现。
真正的赌注是：
AI最终给普通人带来的能力提升，会不会远远超过这些风险？
这也是他一直强调的另一个方向：
AI的力量不能最终只集中在少数公司、政府或者精英手里。
它应该成为普通人的能力放大器。
如果未来一个普通人也能够拥有过去只有一个团队、一家公司才能拥有的研究、分析、编程和执行能力，那么AI真正改变的就不仅是科技行业。
它可能改变的是：
一个普通人能够完成什么。
GES判断
我们认为，这次Sam Altman的采访真正值得关注的，并不是一句有争议的“AI一定会带来坏事”。
更重要的是它背后的时代变化。
过去三年，AI行业的核心问题是：
“AI还能变得多聪明？”
接下来几年，问题可能会逐渐变成：
“我们究竟敢把多少现实世界的权力交给AI？”
从ChatGPT到Agent，是能力升级。
从Agent到Personal Agent，则是信任升级。
当AI开始替你订机票、管理日程、阅读邮件、购买商品、管理资金，甚至主动帮助你推进长期目标时——
真正决定下一代AI平台胜负的，也许已经不只是模型。
而是三个词：
能力。
信任。
控制权。
Sam Altman说：
坏事一定会发生，但仍然值得继续。
真正需要回答的问题可能是：
在继续向前的同时，我们能不能建立足够好的制度、技术和产品机制，让越来越强的AI始终站在人的这一边？
这可能才是Personal Agent时代真正的竞争。
—— GES Future Intelligence Lab

相关学习资料