ARTICLE · 1234114
AI可能会毁灭人类?
由于某种原因，很多文章不能在这里发表，喜欢本号的朋友，请点击下方卡片关注我们的新号，获取更多精彩好文
文丨陆弃
据法新社报道，当地时间10月22日，英伟达首席执行官黄仁勋在公司于德国柏林组织的一场会议上，反驳了人工智能可能毁灭人类的警告。他认为，将AI描述为终结人类文明的力量，是制造新闻头条的“廉价”噱头，并呼吁以“负责任的乐观态度”看待这项技术。与此同时，部分科技企业家因近期AI测试中出现的失控现象，主张放缓前沿技术发展。围绕AI的争论由此再次升温：面对一项可能深刻改变经济、社会与人类生活的技术，我们究竟应该积极拥抱，还是谨慎踩下刹车？
黄仁勋的态度并不难理解。作为全球AI产业的重要推动者，英伟达的芯片和计算平台是当前人工智能发展的关键基础。AI技术的扩张意味着巨大的产业机会，也可能带来医疗、科研、制造和能源领域的效率提升。倘若因为对未知风险的恐惧，就将整个技术领域视为威胁，确实可能错失解决现实问题的机会。历史上的许多重大技术变革，都曾伴随强烈的社会疑虑；技术的价值，往往需要通过实际应用才能逐渐显现。
但黄仁勋对“毁灭人类论”的反驳，并不能直接证明AI风险不足为虑。把风险警告称为噱头，与证明风险不存在，是两回事。对于一项仍在快速演进、能力边界尚未完全明确的技术，既不应轻易接受最悲观的预言，也不能因为最极端的情景尚未发生，就认定所有担忧都缺乏依据。真正严肃的讨论，需要区分夸张的末日叙事与有证据支撑的安全问题。
AI风险也并非只有一种形态。有关人类文明可能被毁灭的讨论，涉及高度自主系统未来可能带来的极端风险；而在现实层面，生成式AI已经引发虚假信息传播、隐私泄露、网络攻击辅助、算法偏见和就业结构变化等问题。随着模型能力增强，系统一旦被错误使用，或在关键环节出现难以预测的行为，影响就可能迅速扩大。并非每一种风险都会导致文明终结，但这不意味着它们可以被忽略。
尤其值得重视的是，AI的能力提升与风险治理之间，未必天然同步。模型训练和部署的速度越来越快，技术被应用于不同领域的门槛不断降低，而法律规则、审查机制和社会适应往往需要更长时间。一个系统在实验环境中表现良好，并不保证它在复杂现实中始终可靠；一次测试没有发现问题，也不代表风险已经被彻底排除。技术越强大，越需要对其使用边界、
这也解释了为什么一些科技企业家主张放慢前沿AI发展。他们的担忧并不必然意味着反对技术进步，而可能是希望为安全评估和制度建设争取时间。对复杂系统而言，谨慎并非消极，暂停某些高风险部署也不等于扼杀整个产业。真正需要讨论的，是哪些技术值得继续推进，哪些能力必须经过额外测试，哪些应用一旦失控就可能造成难以逆转的后果。把争论简化为“乐观还是悲观”，反而会遮蔽这些具体问题。
与此同时，AI治理也不能完全依赖开发企业的自觉。企业既掌握技术，也承担商业竞争和增长压力。当市场争夺速度与规模时，安全投入可能被视为成本，延迟发布可能被视为竞争劣势。即便企业领导人真诚相信技术能够造福社会，也很难仅凭个人判断解决整个行业的协调问题。因此，独立评估、透明的风险报告、明确的责任制度，以及跨国监管合作，都有必要成为AI发展的一部分。
监管同样需要把握尺度。过度僵化的规则可能抬高创新门槛，让资源集中于少数大型企业，甚至将部分研发活动推向监管薄弱的地区；监管不足则可能让高风险系统在缺乏充分验证的情况下进入关键领域。有效的治理不应以阻止AI发展为目标，而应根据风险程度采取不同要求：普通应用重视透明度和用户权益，医疗、金融、基础设施等高影响场景强化验证和监督，对可能造成重大不可逆损害的系统，则应设立更严格的安全门槛。
更深层的问题在于，AI发展并不只是技术企业的内部事务。它会影响劳动者的就业机会，改变教育和知识生产方式，重塑信息传播环境，也可能重新分配财富与权力。即便未来没有出现任何所谓的“人类末日”，如果技术收益集中于少数公司，而失业、隐私损失和社会适应成本由更多人承担，那么AI发展仍然可能引发严重的社会矛盾。讨论技术的未来，不能只看计算能力提升了多少、模型又突破了什么指标，还要追问收益由谁分享，风险由谁承担。
黄仁勋强调“负责任的乐观”，其合理之处在于提醒社会不要因恐惧而放弃技术带来的可能性。但“负责任”不应只是乐观的修饰语，它必须落实为具体行动：公开承认不确定性，认真对待独立研究者提出的风险，允许外部监督，并在发现重大隐患时及时调整发展路径。真正的信心，不是相信技术永远不会出错，而是建立能够发现错误、纠正错误并限制损害的机制。
