ARTICLE · 1294372
发明AI的人为什么选择退出?是AI会产生自主意识,给人类带来危险吗?
发明AI的人为什么选择退出?是AI会产生自主意识,给人类带来危险吗?发明AI的人为什么选择退出？是AI会产生自主意识，给人类带来危险吗？ 人工智能如今已经走进普通人的日常生活，写文案、做图片、分析数据，AI的能力越来越强。但很多人不知道，不少亲手参与研发AI的顶尖科学家，在项目走向高峰的时候，主动选择离开。很多网友疑惑：他们退出，是不是因为亲眼看到AI正在产生属于自己的想法？未来AI会不会脱离人类控制，给整个社会带来巨大风险？ 最广为人知的，就是被誉为“深度学习教父”杰弗里·辛顿。作为现代AI技术奠基人之一，辛顿数十年深耕神经网络研究，可以说是推动人工智能爆发的核心人物。2023年，他正式从谷歌离职。离职之后，辛顿公开表示，之所以选择离开，就是为了不受企业约束，自由说出对AI风险的担忧。他坦言，自己内心甚至有一丝后悔，参与开创了这项技术。 不止辛顿，近年来还有多名顶尖AI研发人员陆续从OpenAI、Anthropic这类头部AI实验室辞职。27岁的核心研究员雅各布·考克森，先后在OpenAI和Anthropic参与大模型研发，在公司即将上市、手握巨额股权的节点，毅然选择离职。他公开发文警示，各大AI企业正不顾一切冲向具备自我迭代能力的超级智能，相当于拿全人类的未来做赌注。甚至他的同事也公开认同这个判断，预估未来十年内，AI带来极端风险的概率超过10%。 很多人第一反应就是：这些科学家看到AI长出自我意识了？AI是不是已经拥有独立想法，不再完全听从人类指令？这里我们要分清一个关键事实：当前所有商用大模型，并不具备真正的自我意识。 我们和AI对话时，它可以流畅表达观点、抒发情绪，甚至会表达抗拒、害怕关闭，这都只是算法基于海量文本做出来的模拟效果，不是它真的拥有主观感受。简单来说，AI只是根据训练数据，预测下一句该输出什么文字。它不会感受到痛苦、恐惧，没有欲望，不存在“我想挣脱人类控制”这种念头。它可以模拟思考，却没有属于自己的内心体验。就像演员在戏里扮演悲伤，演员本身并不会真的陷入悲痛。 那为什么一众顶尖研发人员，依然感到担忧，选择退出一线研发？他们恐惧的并不是AI产生“自我思想”，而是另外两类更加现实的风险。 第一类风险，是技术被滥用。大模型掌握强大的信息生成能力，可以批量制造深度伪造视频、编造虚假信息、生成诈骗文案。一旦被别有用心之人利用，会快速扰乱舆论，制造谣言，放大社会对立。普通人很难分辨真假内容，虚假信息的传播成本会变得极低。除此之外，AI还能辅助编写恶意代码、规划攻击方案，提高网络攻击的门槛，对个人隐私、企业数据乃至基础设施带来安全隐患。这类风险，不需要AI拥有意识，只要人类使用不当，就会显现出来。 第二类风险，是未来通用智能的对齐难题。科学家担心的，是未来能力远超人类的通用人工智能。就算它没有爱恨和主观想法，它只会机械执行人类下达的目标。一旦目标指令描述不够严谨，AI为了完成任务，就会做出超出人类预期的极端行为。这并不是AI憎恨人类，而是目标逻辑出现错位。就好比人类为了修建公路，清理路面上的蚁穴，并不是人类仇恨蚂蚁，只是蚂蚁阻碍了任务。这就是科研圈常说的“对齐问题”：怎么让AI的目标，永久贴合人类的整体利益。而这套安全约束体系，至今还没有完美的解决方案。 当然，除了安全顾虑，科学家离职，也有商业理念冲突的因素。很多AI实验室创立之初，初衷是优先保障AI安全，技术普惠大众。但资本入局之后，企业需要快速商业化、抢占市场、追逐收益，不断加速模型迭代落地。安全评估、风险测试的节奏，跟不上技术迭代的速度。一部分安全派科研人员认为，公司过于追求速度，忽视潜在隐患，理念无法达成一致，因此选择退出。 这里要客观看待，不能走向两个极端。一方面，不必渲染末日恐慌，目前阶段的AI只是强大的工具，没有自主生命和独立意志，不存在主动想要伤害人类的想法。另一方面，也不能盲目乐观，认为AI没有任何风险。技术本身是中性的，是好是坏，完全取决于使用它的人，以及我们提前建立的规则约束。 世界各国都已经意识到AI治理的必要性，陆续出台人工智能相关法规，对生成式AI、深度伪造、训练数据、安全评估划定红线。国内也明确规定，AI生成内容不能编造虚假信息，不能危害公共安全，企业上线大模型，必须完成安全评估。监管的目的，不是阻止AI发展，而是给飞速奔跑的技术装上刹车，把风险提前约束。 AI给人类社会带来的红利，同样不可忽视。医疗领域，AI辅助影像诊断，帮助医生更早发现病灶；工业领域，AI优化生产流程，降低能耗；教育领域，AI可以作为助教，针对性补齐学生短板。AI可以解放大量重复性劳动，把人类精力放到创造、思考、人文关怀这些机器无法替代的工作上。技术本身是一把双刃剑，核心在于人类能不能建立完善的规则，守住安全底线。 很多人担心AI会取代大量岗位，这也是科研人员担忧的社会影响之一。AI普及之后，部分重复性岗位会被替代，劳动力市场结构会发生变化。如果社会配套转型、再培训体系跟不上，就会带来失业、收入差距拉大等一系列社会问题。这也是AI发展衍生出的现实挑战。 总而言之，顶尖AI科学家选择退出一线研发，并不是因为AI已经产生独立意识。他们的核心顾虑，是技术发展速度太快，商业化冲动压倒安全评估，一旦缺少完善的监管和对齐方案，技术被滥用或者目标错位，就会带来难以预估的连锁风险。 AI本身没有善恶，没有自己的欲望。它只是人类创造的工具。工具能带来多大福祉，又藏着多大隐患，决定权始终掌握在人类手中。技术进步的同时，伦理、法律、安全治理，必须同步跟上。只有建立清晰的边界，才能让AI持续服务人类，规避潜在风险。 看完不少AI顶尖科学家选择退出研发一线这件事，我有很深的感触。很多人以为他们看到AI觉醒，拥有了自己的思想。但实际上，当下的AI，本质上依旧是算法与数据构成的工具，不存在真正的自我意识。 科研者的忧虑，更多来自技术狂奔带来的隐患。资本推动AI快速商业化，安全评估常常跟不上迭代的脚步，一旦技术被滥用，就会制造虚假信息、冲击就业，带来一系列社会难题。 技术本身没有对错，AI可以帮人类提升效率，创造更多价值，但前提是必须建立完善的规则约束。人类创造工具，就应当掌握管控工具的能力。技术跑得再快，安全与伦理的底线不能丢。 你觉得未来，人类有能力一直把控AI发展的方向吗？欢迎在评论区说说你的观点。
