夜雨聆风
据《华尔街日报》4日报道，美国人工智能（AI）初创公司Anthropic周四发布公开信，呼吁全球顶尖实验室暂停或减缓前沿AI的研发速度。
该公司警告称，当前AI技术迭代速度过快，短期内可能就会出现脱离人为干预、自主优化升级的能力，由此或将衍生难以预见的重大社会风险。
Anthropic方面宣称，为了给社会和对齐研究（alignment research，让AI与人类价值观、意图保持一致）留出必要缓冲时间，其主张建立一项类似于“核武器协议”的全球性协议，以约束AI研发节奏。同时配套核查机制，确保各国竞争者履约。
文章进一步称，核查AI训练情况并不容易，“AI训练项目远比导弹发射井更容易隐匿。当其他人暂停时，谁继续前进谁就可能取得领先。”
未来数月，Anthropic计划邀请各国政策制定者、科研从业者，围绕递归自主进化技术、全球核验机制展开研讨。文章称，“共同探讨这些问题的窗口已经开启，AI公司之外的人士也应参与到这场讨论中来。”
当地时间4月17日，Anthropic首席执行官达里奥·阿莫迪被拍到现身白宫。
据报道，这篇长文由Anthropic内部研究机构负责人与联合创始人撰写，文章披露了内部测试数据，以佐证其旗舰模型迭代提速的情况。
文章指出，当前AI模型正朝着“递归式自主进化”的方向发展，届时AI无需人类介入便可自我优化。不少业内从业者将这一技术临界点视作潜在隐患，预判其或将引发剧烈的社会动荡。
文章认为，减缓全球AI发展速度“可能是一件好事”，“我们认为，如果世界拥有放缓或暂时中止前沿AI研发的选择权，以便社会结构和对齐研究能够跟上技术发展的步伐，这将是有益的。”
文中还称，递归式自我进化目前尚未发生，也并非必然发生，“但可能会比大多数机构准备得更快到来”。
《华尔街日报》指出，尽管Anthropic自创立以来便以AI安全为核心标榜，但其始终深陷舆论争议，外界频频指责其推动的各类政策倡议，本质是借机打压同行、拖慢竞品的AI研发节奏。
白宫前加密货币和AI事务主管戴维·萨克斯就曾公开批评Anthropic的领导层推行“监管俘获议程”，称此举或催生封杀开源AI模型的政策。
还有批评者认为，Anthropic对其工具潜在危险的警告可能只是一种营销策略。在他们看来，Anthropic限制发布网络安全模型Mythos，其实是为了变相吹嘘其产品的能力。
也并非所有专家都认同Anthropic描述的生存风险或“递归自我改进”可能性。图灵奖得主、“深度学习三巨头之一”、Meta前副总裁兼首席AI科学家杨立昆就相信，基于大语言模型的前沿AI系统永远无法对标人类的智力。在他看来，AI只是高效工具，智能水平仅等同于猫。
宾夕法尼亚大学沃顿商学院教授、AI领域知名学者伊桑·莫利克（Ethan Mollick）告诉美媒，确实不少批评者认为Anthropic的安全声明是“空洞的宣传和营销手段”。
莫里克还指出，作为一个估值万亿的公司，Anthropic内部存在多方冲突：既有追求商业利益的营销团队和律师，有埋头迭代新一代模型的研发骨干，当然也有真正忧心人类未来的“哲人王”式的人。这种多重身份不免使得外界对其“安全至上”的口号有所怀疑。
对于这些争议，Anthropic的领导层回应称，公司高度重视AI安全问题，并正在努力推动更多关于技术风险的讨论。
值得注意的是，本周（6月1日），Anthropic正式提交IPO招股材料。作为Claude大模型的研发企业，其上市估值有望冲破1万亿美元，由此加入与OpenAI、SpaceX的上市赛跑。这场角逐也将检验资本市场是否愿意持续投钱支撑持续烧钱的AI实验室。
OpenAI最新估值达8520亿美元，同样即将递交IPO；SpaceX于上月披露招股说明书，计划未来数周挂牌上市，目标估值1.75万亿美元。
上周四，Anthropic刚落地一笔650亿美元的新一轮融资，融资敲定前企业估值为9000亿美元。对比去年3月600亿美元的估值，短短15个月间，公司估值暴涨逾15倍。
商业层面，Anthropic已先后同谷歌、博通、亚马逊签下数千亿美元规模的长期算力合作协议；上月又和SpaceX达成合作，承租两处超大型数据中心园区。这笔租赁业务每年可为SpaceX带来15亿美元收入。
与此同时，即便正和美国国防部处于司法纠纷之中，Anthropic仍在协助美国国家安全局部署Mythos大模型用于进攻性网络作战；该公司还派驻专属工程师驻场指导，依照美方作战需求定制、优化模型。这也让这家公司的安全承诺越发缺乏说服力。
