ARTICLE · 1081749
从拥抱到警惕:比尔·盖茨的AI末日警告,为全球技术发展敲警钟
从拥抱到警惕:比尔·盖茨的AI末日警告,为全球技术发展敲警钟
人工智能飞速迭代的这几年，它始终以“时代红利”“科技福音”的姿态走进大众生活，便捷办公、优化服务、赋能产业，几乎人人都在享受AI带来的便利。长久以来，科技界大多聚焦于AI的正向价值，却很少有人真正直面它潜藏的极端风险。而近期，微软联合创始人比尔·盖茨发出了一句极具震撼力的重磅警告：飞速发展的AI工具，一旦被恶意利用，足以引发造成十亿人死亡的灾难性事件。这番言论彻底打破了大众对AI的美好滤镜，也让全球AI安全监管的话题，再次被推到舆论中心。 
重磅预警：AI的破坏力远超所有传统武器 当地时间9月25日，比尔·盖茨在NBC王牌节目《与媒体见面》的采访中，发表了迄今为止他对AI风险最严峻的判断。不同于以往科技圈温和的风险提示，这次盖茨的表述直白且残酷，直接点明了AI独一无二的致命威胁。他坦言，人类历史上出现过各类武器装备，从冷兵器到现代化军事武器，但没有任何一种武器的破坏力，能媲美心怀恶意的人借助顶尖AI工具释放的破坏力。 这句警告并非危言耸听。作为人工智能发展最早、最坚定的支持者之一，盖茨多年来始终看好AI的发展潜力，多次公开表态AI会极大推动人类社会进步。但从今年夏天开始，他对AI的态度发生了颠覆性转变，乐观情绪彻底被深度忧虑取代。 早在8月，盖茨就通过个人网站发布长文，详细剖析了AI的潜在危害。他指出，随着AI模型算力、算法持续升级，不法分子可以借助成熟的AI工具，精准发起大规模网络攻击，针对医院急救系统、民生电网、金融核心平台、政府公共系统等关键基础设施实施破坏。除此之外，AI还会被用于精准电信诈骗、全网散布虚假信息、制造舆论混乱，引发一系列社会性、系统性的大规模灾难。此次采访中的“十亿人死亡”论断，正是他对各类极端风险的终极总结。 行业集体自省：硅谷从业者的恐慌与反思 盖茨的警告，并非孤立的个人观点，而是当下硅谷科技圈的集体心声。随着各大科技企业疯狂竞速研发超级AI，行业内部的不安感正在持续蔓延，越来越多一线从业者站出来发声，揭露AI无序发展的巨大隐患。 本月初，AI企业Anthropic的员工雅各布·考克森主动辞职，引发行业热议。他公开指责自己的两家前雇主Anthropic和OpenAI，为了抢占市场和技术优势，盲目竞速开发超级人工智能，这种无序内卷的研发模式，本质上是在拿全人类的生命安全冒险。更让人揪心的是，另有Anthropic内部员工直言，结合当前AI的进化速度，未来十年内人工智能彻底消灭人类的概率，超过10%。 一线从业者的亲身感受，远比外界的预判更加真实。他们深知，当下超级AI的研发速度，已经远超人类配套安全机制的完善速度。各大企业一味追求模型更强、算力更高、功能更全，却忽略了风险防控、伦理约束、安全兜底的建设，相当于一边加速打造“超级利器”，一边彻底放弃防护屏障。 行业的恐慌也催生了初步的自救行动。在多名员工发声后，Anthropic首席执行官达里奥·阿莫迪率先提出放缓AI研发速度、严控超级AI迭代节奏的提议。这一理性倡议迅速得到了行业大佬的广泛支持，OpenAI首席执行官萨姆·奥特曼、特斯拉创始人埃隆·马斯克等科技巨头负责人纷纷附和，一致认可AI发展需要刹车、规范、约束，不能无底线野蛮生长。 破除行业自监管：强制立法才是唯一出路 在AI风险防控的解决方案上，盖茨给出了清晰且坚定的答案，直接推翻了当下行业主流的“自我监管”模式。目前多数科技企业都推行内部AI安全准则，试图通过行业自律规避风险，但在盖茨看来，这种模式形同虚设，完全无法抵御AI的极端风险。 他明确表示，单纯依靠科技企业自我约束、自我规范，根本不足以守护人类安全。企业的核心诉求是商业盈利和技术领先，在激烈的市场竞争中，很难依靠自律放弃技术竞速、严控风险边界。想要真正锁住AI的“魔鬼一面”，必须跳出行业内部，引入外部力量强制监管。 盖茨强调，政界人士、执法部门必须深度参与AI治理，牵头搭建统一的安全保障体系和常态化监督机制。AI监管不能是企业自愿遵守的行业规则，而必须成为全社会强制执行的法律法规，让所有AI研发、运营、应用主体都有明确的红线可守，有严格的规则约束。 除此之外，盖茨今年还提出了多项落地性极强的治理思路。他建议针对AI模型调用、智能机器人征税，改变当下税制偏袒机器、挤压人力就业的现状，同时用税收收入完善社会保障、劳动者再培训体系，缓解AI替代就业带来的社会冲击。同时他呼吁全球建立统一的AI治理机构，各国摒弃地缘竞争，共同管控超级AI技术，避免出现各国无序内卷、恶性竞速的局面。 理性看待AI：科技发展永远要安全先行 当下的AI发展，正处在一个矛盾的十字路口。一方面，AI赋能千行百业，是推动社会进步、产业升级的核心动力，彻底放弃AI发展并不现实；另一方面，技术迭代速度远超治理速度，无序发展的潜在风险，已经上升到关乎人类存续的高度。 盖茨从全力支持到紧急预警的态度转变，恰恰提醒着所有人：科技的终极意义是服务人类、守护人类，而非带来灾难。过去我们过度沉迷于AI的便捷与高效，忽略了技术失控、恶意利用的极端后果。所谓的AI风险，从来不是遥远的未来科幻场景，而是随着技术升级，正在逐步逼近的现实隐患。 如今，从硅谷从业者的集体反思，到科技大佬的减速呼吁，再到盖茨的立法倡议，全球科技界已经达成共识：AI发展不能野蛮生长。技术创新值得鼓励，但安全永远是底线。只有建立健全的法律监管体系、统一的行业安全标准、完善的风险防控机制，给飞速狂奔的AI装上“刹车”和“护栏”，才能让这项顶尖技术真正趋利避害，长久造福人类。 
科创家网 www.kechuangjia.com.cn
｜预见未来，赋能科创，推动科学家成果产业化｜
不再乐观！盖茨改口警示AI风险，行业自律已经不够用了
01
02
03
04
关于「预见科创家」
「预见科创家」是创业孵化平台「溪有物种」旗下专注科学家创业的新媒体，以预见未来的眼光，投资下一代改变世界的科技。我们深耕科学家成果产业化、科学家创业与硬科技孵化，推动前沿成果从实验室走向产业。我们聚焦科学家创业生态，提供从投资、孵化到产业落地的全程赋能，截止目前已经共创、孵化、陪跑数十位科创家，从-1到0，从0到1，从1到N，种子期共创、天使期合投，一路众推超级增长。
我们不仅是记录者，更是基于深度预见的陪跑者与共创者。
欢迎科研院所、高校技术转移中心、科技成果转化，以及科学家、教授等团队&联系合作，欢迎加主编VX：weijiadong2011