AI与人之间,一场关于边界的深度对话:OpenAI前高管Zack KASS & 杨斌教授

本文整理自 OpenAI 前高管、《The Next Renaissance》作者 Zack Kass 在清华大学经济管理学院的演讲《The Automation Boundary》，以及他与清华大学杨斌教授的对谈、现场问答。

Artificial intelligence is not the story. Humanity is.

AI is the brush. Human potential is the masterpiece.

AI 不是故事本身，人类才是。AI 是画笔，人的潜能才是杰作。

所以，这场名为《The Automation Boundary》的演讲，表面上讲的是「自动化边界」，实质上讲的是一个更根本的问题：

当 AI 能替我们做越来越多事时，什么还必须由人亲自完成？

工作会变，身份会动摇；工具会进化，证书会贬值；agent 会替我们购物、订餐、安排旅行，甚至替我们做很多判断。但也正是在这一刻，人必须重新划定边界：

• 哪些摩擦是消耗人的，可以交给机器？

• 哪些摩擦是成就人的，必须留给自己？

• 哪些选择可以外包？

• 哪些爱、责任、判断和意义，不能代劳？

整场听下来，最打动人的不是 AI 的强大，而是 Zack 反复提醒的那件事：

技术的终点不该是让人更像机器，而是让人更成为人。

为方便阅读，下文按现场顺序整理为四部分——开场致辞 → 主题演讲 → 对谈杨斌 → 现场问答，并在文末附上金句摘录。

清华大学经管学院何平副院长为活动做开场致辞。他指出，清华大学稳居中国AI研发第一梯队，需兼顾基础科研落地与真实社会价值，这也正是今天这场对话意义非凡的根源。

Zack抛出的命题早已超越技术本身，它关乎伦理，归根到底拷问着人类最珍视的内核。在座同学未来会成为企业管理者、创业者、创新者，大家将为团队、企业乃至整个社会划定自动化的边界。这无关代码算力，本质是人类的选择、人的主观能动性、人存在的意义。

活动一开始，Zack 没有急着讲 AI 多厉害，而是先讲手机、社交媒体和 Z 世代。

他说，上一代人把手机交给孩子，把他们放在房间角落里 doom scroll，让他们和屏幕相处的时间超过朋友和家人；让色情、赌博、暴力、成瘾和攀比无限制地进入生活；然后又问他们为什么不快乐。

他的判断很直接：

年轻人不快乐，不是因为现实生活真的坏到无可救药，而是因为他们沉迷于一台机器——这台机器每天喂给他们世界上最糟糕的信息，却从不在精神上回馈任何东西。

这也是他看待 AI 的基本态度：技术不是天然向善的。 技术可以放大人的能力，也可以掏空人的精神。上一代人已经用社交媒体证明过一次：只讲增长、参与时长和商业价值，而不讲人的幸福，会造成非常深的伤害。

但他并没有把年轻人描述成纯粹的受害者。他说，这一代人被无限知识和设备成瘾诅咒，同时也拥有上一代人没有的工具。他们有机会修复前人留下的问题，也有责任在一开始就把事情做对。

Zack 说，自己写《The Next Renaissance》时，最初并不知道这本书写给谁。直到女儿出生那天，他突然意识到，这本书是写给父母的，写给每一个对另一个生命负责的人。

这个视角很重要。它让他谈 AI 时，不只是站在创业者、投资人或企业顾问的位置，而是站在一个父亲的位置。

他提到，今天每个人心里都有两个自己：

• 一个自己想用 AI 赚钱、创业、投资、进入伟大的公司；

• 另一个自己则想确认，自己创造的东西不会伤害下一代。

这两个自己并不矛盾，但必须同时存在。只有第一个自己，会把技术变成欲望机器；只有第二个自己，又可能无法推动世界前进。

真正困难的，是在追求增长和留下好东西之间找到平衡。

Zack 进入主题时，先讲了一个美国码头工人罢工的故事。

2024 年美国码头工人罢工，工会领袖提出的核心诉求，不是加薪，也不是改善安全条件，而是要求港口承诺不自动化他们的工作。他把这称为「生存权」。

Zack 去港口和工人聊天，发现事情没有外界想得那么简单。他问了几个问题：

• 你相信自己能在工会之外找到工作吗？——82%人说相信。

• 你家里有人曾在工会吗？——85%人说有。

• 你希望家人未来也加入工会吗？——89%人说希望。

• 你认为工作中最重要的是什么？——最常见的答案是 community（社区）。

这说明，码头工人真正害怕的，不只是工资没了，而是身份、归属和家族传承没了。

于是 Zack 提出了整场最关键的判断之一：

我们面临的不是工作替代危机，而是身份替代危机。

不是 job displacement，而是 identity displacement。

他并不认为未来人类会完全不工作。相反，他认为在座大多数人都会继续工作，而且工作可能更安全、更有趣。但问题是，工作内容会变化得非常快，快到人很难再靠职业来定义自己。

过去我们见面就问：「你是做什么的？」这句话背后，是把工作当成身份。

但如果工作不断变化，岗位不断重组，任务不断被 agent 拆解，人就必须重新回答一个问题：

如果工作不能定义我，我是谁？

为了说明这不是单纯的技术问题，Zack 引用了凯恩斯 1930 年的文章《我们后代的经济可能性》。

凯恩斯曾设想，人类有一天会解决经济问题：人人有衣穿、有饭吃、有房住、有基本照料。但当经济问题解决后，人类会面对更深的问题：我们该如何生活？我们为什么活着？

Zack 说，我们正冲向一场 spiritual reckoning（精神清算）。

这句话很重。它的意思是：AI 带来的不是简单的经济觉醒，而是对人类意义系统的重新拷问。

当生产效率大幅提升，当越来越多任务可以被自动化，当「更好、更快、更便宜」成为默认方向，真正的问题不是桌上有没有更多食物，而是：

我们会不会更幸福？

他没有给出轻松答案。因为过去几十年的互联网并没有证明「更多技术 = 更多幸福」。相反，很多地方出现了更严重的注意力成瘾、精神空虚，住房医疗教育成本上升，以及年轻人的意义感丧失。

所以，自动化边界的讨论，本质上不是「机器还能做什么」，而是「人还应该做什么」。

Zack 用一个很日常的例子解释自动化边界：购物。

他说，互联网最早像一个图书馆，后来被改造成购物中心。未来 agent 时代，互联网可能不再主要是给人眼睛看的网页，而是给智能体读取和执行的、文本化、协议化的网络。一旦 agent 能替你登录银行网站、下载账单、发给会计，你就再也不会主动打开那个网页。

购物也是如此。

Zack 在超市观察顾客，只看三类商品：水、牙膏、玉米片。他问别人为什么买这个，很多人说「这是我最喜欢的」。但再问他们试过多少种，多数人说只买过这一种。

一个超市可能有 50 种牙膏、60 种玉米片、85 种水。人怎么可能真的知道哪一个是最喜欢的？

他的结论是：

很多所谓「偏好」，其实只是随机和惯性。 人做大量购买决定，不是因为每个选择都很重要，而是为了保护自己的认知负荷。

所以，当 agent 问你「要不要帮你填购物车」，你大概率会说好；问你「要不要帮你订晚餐」，你可能也会说好；问你「要不要帮你安排假期」，你也许还会说好。

但如果它继续问：「要不要帮你选择伴侣？」

很多人会开始犹豫。

而犹豫的那一刻，边界就显形了。

对谈环节里，杨斌教授问 Zack 第一次来中国的经历。

Zack 说，他第一次来中国是因为排球——当年他是美国排球队成员，来中国打比赛。他开玩笑说，自己其实更为排球经历自豪，而不是 AI 经历，只可惜从没人请他讲排球，只好讲 AI。

他后来多次来中国，最明显的感受是中国人的自信在增长。早年中国人看到他们会非常好奇，如今中国人越来越相信自己本来就属于世界舞台。

杨斌教授也指出，中国人对技术、全球化和变化整体更积极，这和美国年轻人对 AI 的抵触形成对照。

Zack 认为，美国年轻人抵触 AI，有一部分原因是互联网并没有善待他们：互联网没有降低住房、医疗、教育成本，反而制造了注意力成瘾和精神破产。而中国更容易把 AI 视为建设更好世界的机会，因为人们看到了技术如何扩散到普通人的日常生活里。

Zack 说，美国需要向中国学习的一点，是组织和规划能力：如何让技术红利真正流向普通人，而不是只被精英吸收。

杨斌教授进一步提问Zack 进入 AI 行业和 OpenAI 的经历。

他 2010 年进入机器学习行业，由于金融危机加之行业低迷，一开始甚至只是去一家机器学习公司搬箱子，后来一路做到高管，又进入大语言模型和机器翻译领域。

加入 OpenAI 时，他负责销售和客户支持。那时很多研究员看到他，觉得销售人员到来标志着纯粹科研的终结。但他要证明，销售不是坏词——因为如果要构建超级智能，就需要海量算力；要有海量算力，就必须创造收入或获得融资。

关于 ChatGPT，他提到了三个顿悟：

第一，应用层长期决定成败。

GPT-3.5 在成名之前已经开放半年，但市场反应冷淡，真正让世界理解它的，是一个极其简单的聊天网页。最简单的应用，因为不要求用户改变行为，反而最有力量。

第二，人们会误把 App 当成 AI 本身。

很多人问「你用 AI 吗」，其实是在问「你用那个 App 吗」。但 AI 的影响远不止聊天框。一个产品太成功，也会让人对技术的想象变窄。

第三，自然语言交互是未来终局。

Zack的母亲很不擅长技术，会在 Google 输入完整句子，还会乱点广告。但第一次用 ChatGPT 时，她用自然语言输入一句完整的话，就得到了完整回复。那是 Zack 第一次看到母亲没有被新技术难住。

这说明，真正好的技术不是让人适应机器，而是让机器适应人的表达方式。

AI时代知识复制门槛极低，未来的教育形态应该是怎样？

进入教育话题时，Zack 的态度很鲜明：更多技术并不必然改善教育。

他的妻子是华德福教师。华德福教育长期限制手机，因为它相信技术会分散孩子注意力。Zack 也越来越认为，技术进入教育前，必须先变得「无形」。他不喜欢那种持续要求学生注意它的教育技术——更好的教育技术，应当在后台观察课堂，给老师和学生反馈，而不是让所有人围着屏幕转。

他进一步批评工业化教育模式：过去教育训练人掌握工具、获得证书、适应标准化体系。但未来工具会越来越容易，且快速过时。今天苦练的工具，也许毕业时就不重要了。

那教育还应该教什么？他的答案是两件事：

morality（道德）：你是否关心他人，是否关心所在社群？

agency（能动性）：你是否能推动自己，突破边界，做出超出平均水平的事情？

Zack 最担心的，是 AI 放大一批「高能动性、低道德」的人。那样的世界会很快变得危险。

杨斌教授同样指出，标准化流水线教育体系弊病已经在凸显，未来教育角色中，课程共创者、协同参与者、课外成长参与者，社团、体育、团队协作的价值会远超课堂授课。此外，很多大班课节奏拖沓，优等生完全可以自主提速学习，只是受学制、家长期待束缚不得不出勤。

杨斌教授进一步将话题引导至「摩擦」，在Zack的新书中，将摩擦界定为有益摩擦和有害摩擦。

有害摩擦（vicious friction）：那些纯粹消耗你、伤害你、不让你变好的麻烦。

有益摩擦（virtuous friction）：那些费力、麻烦、需要投入，但会滋养你的事情。

自动化边界，就在两者之间：

• 有害摩擦，应该尽量交给机器。 比如重复填表、低价值沟通、信息搬运、网页跳转。

• 有益摩擦，则必须留给人。 比如学习、陪伴、运动、写作、判断、承担责任、和真实的人建立关系。

如果想保有人性，有些摩擦必须亲自承受。

杨斌教授接住了这个概念。他说，在中文里可以把它理解成「代劳」：有些代劳让人轻松，有些代劳却让人不再像人。

Zack 甚至认为，我们已经自动化得太多了。 很多年轻人的精神困境，恰恰来自「必须亲手做的事太少」：不用打暑期工，不用真正动脑完成作业，不用经历一些原本能建立责任感和韧性的事情。

生活过得太顺，人反而可能在精神上破产。

杨斌教授进一步提出「慢 AI」：慢不是运行速度慢，而是人在使用 AI 时，仍保留人性、判断和能动性。AI 可以帮你，但不能替你拥有生活。

他举例，很多人习惯遇事说「随便」，这便是把选择权甩出去——过去是交给别人，未来就可能交给AI。

如果 agent 能完成越来越多任务，人如何避免身份丧失？

Zack 的回答很诚实：他没有完美答案。

但他认为，未来人仍然会有工作，只是工作的任务会变化到面目全非。真正受挑战的，是今天定义身份的两样东西：证书和工作。

他提到一项研究：

一个人证书越多，越不愿意改变工作，越不愿意在证书范围之外表现。 因为他越相信自己的工作是证书赋予的，就越容易被证书困住。

未来反而可能是证书少的人适应得更好，因为他们从一开始就不那么相信证书能定义自己。

他说，未来二十年最难的事情之一，是说服人们相信：工作并不定义你。

他用临终经验解释这个问题：人在生命尽头回忆的，不是作为员工的身份，而是作为朋友、父母、家人、自然的一部分。

没有人临终前会说：「我真希望自己多拿一张证书。」也没有人说：「我真希望多在办公室待一会儿。」

这段话把 AI 时代的身份问题，从职业规划拉回了人生本身。

杨斌教授推荐书籍《第二座山》：第一座山是学历、事业、世俗成就；人生落幕时，大家铭记的永远是温情人际与品格，而非职场功绩。

如果只能让学生放弃一个过时信念、保留一种核心品质，会是什么？

Zack 的回答是：放弃对成功的固定定义。

今天以为的成功，未必是未来真正让你满足的东西。很多他认识的朋友已经取得远超梦想的成就，但后来都重新定义了成功——对许多人来说，真正的快乐来自家庭、朋友和真实关系。

他尤其提醒学生珍惜朋友：大学最宝贵的，不只是课程和证书，而是你能和一群人一起长大。以后你会看到同学经历人生不同阶段——创业、失败、结婚、生子、转向、重来。能长期见证一群人的成长，是非常稀有的事。

他建议大家为朋友的胜利庆祝。

很多人从小到大很多人被训练成零和思维，好像别人赢就意味着自己输。但成年之后，世界不是这样——完全可以很多人一起赢。

杨斌教授同样建议，unlearn 是进入 AI 时代的必须，要刻意放弃对成熟能力的过度依赖，更应坚守友谊、领导力等持久的人文特质。

他进一步指出，教育应培养那些以“-ship”为后缀的、能持续一生的能力，如friendship（友谊）、leadership（领导力）、craftsmanship（工匠精神）、sportsmanship（体育精神）、ownership（主人翁意识）、entrepreneurship（创业精神）。

这些不是某个具体工具，却能陪伴人一生。AI 时代，真正重要的恰恰是这些不容易被工具替代的品质。

问题：AI 是否会加大贫富差距，导致大规模失业？

Zack并不担心大规模失业。从历史经验来看，互联网本该替代所有脑力工作，反而催生海量全新脑力岗位；AI同理，只会拓宽做事的边界，不会清空就业。经济层面红利一定会整体做大，真正胜负在于守护人的精神内核，这才是重中之重。

问题：AI 会不会让财富越来越集中，进一步扩大社会鸿沟？

Zack 的回答很有意思。

他说，他并不真正关心富人有多少钱，而是关注他们能不能用钱买政策、买政治影响力。

贫富差距真正危险的地方，不是有人富，而是财富能直接变成权力，影响普通人的生活。

所以他的重点不是压低天花板，而是抬高地板。他有一句话很适合记下来：

让我睡不着的是地板，不是天花板。

他不希望每个人过上一模一样的生活，也不认为那是乌托邦。努力、优秀、超越平均的人应该获得回报，因为进步正由此产生。但社会必须托住底线，让普通人负担得起住房、医疗和教育。

如果 AI 和技术真正降低了这些基础生活成本，人们自然会相信 AI 是好东西，会像谈论电一样自然地谈论 AI。

问题：技术是否会制造信息茧房，让社会更加撕裂？

Zack 说，线上世界不等于真实世界。

Zack去过很多地方，他的真实经验是，几乎所有地方都让他感到安全、受欢迎、被善待。

也许社交媒体是毒池，但真实世界不是。

他的建议也很朴素：走出去，和人聊天。 你会发现多数人比你想象中开放，也比你想象中温和。真正的风险，是我们因为沉迷网络，开始预设别人都很糟、都早有成见，于是停止靠近彼此。

技术真正该做的，是降低美好生活的成本，让更多人在更多地方探索什么是属于自己的好生活，而不是把人困进更厚的信息茧房。

清华大学X-Lab 主任郝秀清老师作为一位母亲提出：孩子拒绝用 AI 写作业，但不用 AI 成绩可能上不去、进不了好大学。作为家长，应该欣慰还是焦虑？要不要劝孩子用 AI？

Zack 没有给标准答案。他说，自己的父母在他七岁时就放弃了把他变成好学生，而他对此很庆幸。但他也理解中国文化不同——虎妈是真实存在的，好成绩、好大学、好证书、好工作、社会地位，这条链条在中国非常强。他不认为这就是最好的生活方式，但他理解它为什么存在。

然后他换了一个角度：如果自己的孩子在排球上极有天赋，他可能也会用很强的方式让孩子重视这份天赋。 哪怕伤害关系，他也可能会说：「看看你的天赋，它会给你很多东西，你必须在乎它。」他开玩笑说，自己会成为另一种虎爸：不打满七小时排球，不准吃饭。

这个回答有趣的地方在于，他没有简单否定虎妈，而是承认：当父母看到孩子有某种天赋时，很难完全不介入。

但他真正想强调的是，孩子应该深深在乎某件事，并通过这件事学会如何学习。

他说，美国教育有个问题：很多学生简历上什么都有，却什么都不精，看起来一英里宽，实际只有一英寸深。这样的学生看似光鲜，却未必真正有趣，也未必真正掌握了学习能力。

未来具体技能会过时，真正重要的是 learning how to learn（学会如何学习）。

问题：关于 OpenAI、Anthropic、基础设施和大模型竞争，怎么看？

Zack 表示自己没有内部消息，只能推测。但他把模型公司的竞争拆成几个维度：

1.  前沿科学——谁能做出最强模型；

2.  分发能力——谁能卖算力、卖 token；

3.  应用层——谁能占据用户入口；

4.  生态系统——谁能连接开发者、企业和用户场景；

5.  设备——谁能掌握硬件入口。

他的判断是：前沿科学非常昂贵，且可能受政策影响；分发很赚钱，但容易变成价格战；应用层很重要，但用户迁移也快；生态系统和设备则可能成为长期控制入口的方式。

如果他是模型公司，会认真思考自己的设备。因为设备可能同时控制应用和生态。

但作为普通公民，他更希望未来 agent 生态是开放协议，而不是一个闭源系统。否则会出现一种奇怪的反乌托邦：一家公司替所有人安排旅行、购买日用品、协调商业行为，因为它控制了 agent 协议。

那也许很高效，但文化上会非常贫瘠。

问题（一位来自美妆行业的同学提出）：当消费者不再通过搜索和 KOL 发现产品，而是直接问 GPT「哪款粉底适合我」，营销和品牌还有什么意义？

Zack 的回答是：品牌会更重要，但规则彻底变了。

过去营销的核心，是让人知道你存在。未来 discovery 的方式会变化：消费者可能通过应用环境发现商品，也可能让 agent 主动替他发现、比较和购买。所以品牌要解决的问题，不再只是「如何被看见」，而是「如何让人足够在乎你」。

Zack 举了自己的例子。真正让他从同类商品中点名要的，只有几样：Coke Zero、David 蛋白棒、Smartfood 白切达爆米花。如果 agent 问他「要不要帮你填满购物车」，他会说：「可以，但这几样必须保留。」

这就是品牌在自动化边界里的位置。 未来每个消费品公司都要问自己：

我在客户的偏好栈里到底有多高？当 agent 推荐另一个选择时，用户会不会跳出来坚持选我？

如果不会，品牌就可能被彻底去中介化。

但 Zack 也给了另一条路：如果你的产品本来是大路货，也不一定没机会。Agent 时代可能让真正好的商品被看见——更好的成分、更好的工艺、更好的性价比、更真实的价值，过去消费者懒得比，未来 agent 可能会替他比。

也就是说，品牌要么成为人的执念，要么成为 agent 眼中的最优解。

问题：AI 是否会带来失业、动荡和社会危机？

Zack 说，他并不认为最可怕的反乌托邦是全球战争、大规模失业或社会动乱。真正的反乌托邦更隐蔽，也更接近我们今天的生活。

他提到电影《Her》。

第一次看这部电影时，他以为结尾会更勇敢：男主角发现自己爱上的是机器人，但他不在乎。Zack 说，那才是真正的反乌托邦。 可电影没有这样拍，而是让男主角因为爱上机器人而痛苦。

在 Zack 看来，真正可怕的不是人和机器发生情感关系后受伤，而是人已经不再在乎对象是不是人。

今天很多人已经爱上手机，并因此痛苦。但他还没有完全绝望，因为当他说「你们对手机上瘾了」，很多人会抬头，意识到自己不想那样活。

只要人还能承认：「这不是我想要的世界。」希望就还在。

真正的后末日世界，也许和今天几乎一模一样，只是人已经不再在乎去爱另一个人。我们在合成造物身上获得浪漫、欲望和哲学上的慰藉，然后再也回不来。

那是去人性化的尽头，是不归点。

活动最后，杨斌教授给 Zack 的新书《The Next RenAIssance》做了一个很中文的点题：

Renaissance 这个词，开头三个字母是 Ren。而 Ren 在中文里，正是「人」。

这也许只是巧合。但这个巧合，恰好说中了整场分享的核心：

AI 时代的下一次文艺复兴，不会只发生在模型、算力、应用和商业模式里。它必须先发生在人身上。

人要重新确认：

• 什么可以交给机器？什么必须亲自经历？

• 什么是消耗我们的有害摩擦？什么是滋养我们的有益摩擦？

• 什么工作可以变化？什么身份不能丢失？

• 什么选择可以外包？什么爱不能代劳？

一场关于自动化的演讲，听到最后，满耳都是人——

人的热爱，人的天赋，人的能动性，人的道德感，人的友谊，人的家庭，人的社群，以及人与人之间，还愿不愿意彼此靠近。

如果说自动化边界划在哪里，取决于我们舍不得交出什么，那这场清华下午的答案，也许是：

把烦人的事交给 AI，把成就人的事留给自己。

把效率交给机器，把爱、判断、责任和意义，留给人。

- AI 不是故事本身，人类才是。AI 是画笔，人的潜能才是杰作。

- 我们面临的不是工作替代危机，而是身份替代危机——不是 job displacement，而是 identity displacement。

- 如果工作不能定义我，我是谁？

- 我们正冲向一场 spiritual reckoning（精神清算）。

- 很多所谓「偏好」，其实只是随机和惯性。

- 有害摩擦交给机器，有益摩擦留给人。生活过得太顺，人反而可能在精神上破产。

- 真正好的技术，不是让人适应机器，而是让机器适应人。

- 未来二十年最难的事情之一，是说服人们相信：工作并不定义你。

- 没有人临终前会说：我真希望自己多拿一张证书。

- 让我睡不着的是地板，不是天花板。

- 也许社交媒体是毒池，但真实世界不是。

- 真正的反乌托邦，不是人爱上机器后受伤，而是人已经不再在乎对象是不是人。

- 技术的终点不该是让人更像机器，而是让人更成为人。

主办单位：

清华大学博士后联谊会

清华MBA创业俱乐部

清华x-lab

北京科学教育发展基金会

活动策划：肖书阳、吴国伟、樊晶菁、Wendy HU、王永磊

活动执行：齐划一、吴国伟、樊晶菁、岑裕、丁一、唐金川、秦栋、赵梦云、张紫阳、陈文婷、朱瑞清、商黑旦、何林璘、卢佳音

活动主持：汪方、杨梦迪

文案编辑：唐金川

文案审核：Zack KASS团队、杨斌、樊晶菁