夜雨聆风
在美国，曾处于人工智能（AI）开发最前沿、负责安全性的研究人员接连离开一线。从这些离开一线的研究者言论中浮现出的是一个根本性的问题，即人类是否能够遏制不断进化的AI失控，以及AI能否带来繁荣的未来。
在AI开发中贯彻价值观的“困难”
“世界正陷入危机”。美国AI开发新兴企业Anthropic的安全研究员Mrinank Sharma今年2月在给同事留下一封信后辞职。
Mrinank Sharma在英国牛津大学获得了机器学习博士学位。抱着“想为AI的安全性做贡献”的想法去了美国旧金山。在Anthropic从事模型内部的透明性机制研究等。
Anthropic以安全性和重视伦理的开发态度而闻名，但Mrinank Sharma离职时在X（原推特）上公开的信中写道，“在职期间，我曾面临将自身价值观落实为行动的困难”。据称他将暂时返回英国，读诗度日。
美国财政部长贝森特（右）（2025年4月，Reuters）
在2个月后的2026年4月7日，Anthropic试验性公开了新型AI模型“Claude Mythos”。性能高到可以锁定系统上未知的缺陷，如果被恶意用于对银行的网络攻击等，可能会导致灾难性的结果。
Anthropic严格限制公开对象。发展为美国财政部长贝森特与美国大型银行的行长等召开紧急会议、讨论应对方案的事态。
Mrinank Sharma是否预言了Claude Mythos的危险性？记者询问了他本人，仅得到了“我目前设立了一段沉默期”的回答。他在辞职时写给同事的信中写道：“我们的智慧必须与我们影响世界的能力同步增长，否则就要付出代价”。
ChatGPT上的广告“操控用户”
曾在美国OpenAI负责安全对策的研究人员Zoë Hitzig也于2026年2月因Chat GPT引入广告而辞职。
Zoë Hitzig在美国《纽约时报》上发表了题为《OpenAI正在重蹈Facebook（现为Meta）的旧辙》的文章。她呼吁称“正因为ChatGPT不带任何意图，人们才会袒露健康不安和人际关系烦恼等内心话。基于这些的广告就变成了操控用户的行为”。
OpenAI因巨额开发投资而持续亏损。计划向免费和低价套餐用户展示广告，以提高收益。Zoë Hitzig指出，“AI开发者相信能在AI引发的问题上抢占先机。OpenAI却抛弃了这一点”。
崇高的理念在开发面前“毫无意义”
研究AI安全性的开发人员相继离职，反映出各企业的销售额和企业价值不断膨胀的同时，对待安全和企业伦理的态度开始动摇。
Anthropic首席执行官阿莫迪对安全的理念正受到考验（Reuters）
这种认知在管理层中也有所共识。Anthropic的CEO达里奥·阿莫迪（Dario Amodei）在1月发表的文章中表示，AI的快速创新可能会在未来几年内带来严重风险。
他列举的风险包括：就业流失、贫富差距扩大，以及被用于生物恐怖主义等大规模杀伤性武器的可能性。这些担忧，与已经离职的Mrinank Sharma表达的危机感不谋而合。
但是，贯彻理念并不容易。
“我们不是为了军事用途而开发的”。Anthropic要求在完全自主型武器和监控美国民众时不要使用自身的AI。2026年2月，Anthropic围绕AI的军事利用与美国国防部发生了对峙。不过，随着竞争对手OpenAI获得国防部的合同，Anthropic也表示将继续与政府展开协商。
“无论有多么崇高的理念，在开发竞争面前都毫无意义”，美国谷歌的一名职员指出。在瞄准赢家通吃的开发竞争日趋激烈的情况下，如果自己止步不前，就是对竞争对手有利。不仅是美国国内的科技企业之间，与中国企业的竞争也日益激烈。国际规则等“刹车片”仍处于欠缺状态。
谁来踩下刹车
“AI将以匹敌工业革命的规模改变世界”，OpenAI在4月6日发布的政策建议中，提出了包括税制改革、每周四天工作制，以及利用新增时间强化育儿等一系列设想，描绘了AI将如何改变世界并使社会更加富足的愿景。同时也呼吁制定国家层面的安全标准，强调监管的必要性。
Anthropic在4月2日更新的最新建议中也重点强调了开发过程的透明性以及对超智能模型潜在风险的控制。尽管在“如何踩刹车”这一点上各方看法不尽相同，但对于无序开发竞争所带来的风险担忧，则是共同的。
随着Anthropic的Claude Mythos的问世，警戒级别进一步提高。此前一直主张“科技完全控制”的美国总统特朗普在4月15日播出的采访中表示，对于AI技术，政府应该拥有强制停止的“终止开关（Kill Switch）”。
国会的危机感也在扩散。“我想问的是AI对人类的问题”、“劳动者真的受到重视吗”。在2月24日举行的美国国会众议院的听证会上，布拉德·舍曼和布拉德·施奈德等民主党议员向特朗普政府负责AI相关外交政策的副国务卿雅各布·赫尔伯格进行了追问。
在美国内部分裂加深、中美对立加剧的情况下，美国和世界能否找到最佳解决方案？可以确定的一个现实是，持续快速进化的AI留给人类的“思考时间”并不长。
日本经济新闻（中文版：日经中文网）川上梓 纽约、中藤玲、八十岛绫平 华盛顿
版权声明：日本经济新闻社版权所有，未经授权不得转载或部分复制，违者必究。
日经中文网 https://cn.nikkei.com
视频号推荐内容：
