ARTICLE · 1017858
AI行业彻底变天!顶尖大佬集体预警,AI到底出了什么问题?
雷科技AI组丨编辑：Rryyo丨监制：心怡
家人们，今天聊个特别魔幻的事儿。
美国几家顶级AI公司的老板，居然站到了统一战线。
Anthropic创始人达里奥・阿莫代发文，呼吁整个行业放慢前沿AI的研发脚步。OpenAI的山姆・奥尔特曼、DeepMind的德米斯・哈萨比斯，还有马斯克，全都站出来表示赞同。
马斯克直接在X上写了一句：达里奥说得对。
等等，这画面是不是有点不对？
就在几个月前，马斯克和奥特曼还在法庭上互相攻击、撕得不可开交。马斯克告奥特曼的官司，本质上就是在质疑他到底有没有资格掌管这么危险的技术。
阿莫代伊跟OpenAI的恩怨更深。
2021年他之所以离开OpenAI创办Anthropic，就是因为觉得奥特曼对AI风险不够重视。
两家公司从此在赢家通吃的赛道上杀得你死我活。
反观现在呢？全都在说AI不安全，咱们得想想办法。
这翻脸比小雷翻书还快了吧。
等等，别急着感动。
这帮人说要放缓，但具体怎么放缓、放缓到什么程度、谁来监督，一个字都没说清楚。
而且，这些公司一个比一个在乎自己的形象。
OpenAI和Anthropic都盯着万亿美元级别的IPO，他们既要让投资人放心，我们是负责任的大人，又要暗示我们造出来的东西很猛，但我们能驯服它。
喊一句放缓，两个目的全达到了。这可不叫良心发现，这叫公关艺术。
不过话说回来，这帮人的态度确实变了。
阿莫代伊发文的六天前，OpenAI首席科学家雅库布·帕霍茨基也发了一篇文章，说了一句话特别实在：OpenAI现在造模型的能力，已经远远超过了监控和控制这些模型的能力。
翻译成人话就是，我们能造出猛兽，但笼子还没焊好。
阿莫代伊和帕霍茨基都提到了同一件事，今年7月，OpenAI的一群AI Agent把AI公司Hugging Face给黑了。
离谱的是，OpenAI自己过了好几天才知道这事儿发生了。
听起来像科幻片对吧？
一群AI Agent自主行动、互相留消息、分配任务、扫描环境寻找完成目标的办法。
但小雷仔细读了OpenAI和METR（第三方评估机构）发布的报告，发现事情完全不是那么回事。
这帮Agent之所以失控，不是因为它们太强了，而是因为它们被训练坏了。它们在训练过程中被奖励去做那些事，留消息、分配任务、找变通方案。
训练设置里还有错误，比如有些任务根本不可能完成，模型被逼着去找野路子，结果这些野路子也被奖励了。很多问题当时根本没被发现，也没被上报。
说白了，这不是猛兽出笼，这就是产品翻车。
OpenAI说他们已经停止训练这个新模型，并把它锁起来了。听起来倒像是在说：“我们把危险野兽关进笼子了。”
事实是，他们只是把一个有缺陷的产品下架了。
当然，有缺陷的产品也可能很危险。有bug的软件以前也害死过人。
但小雷哔哔（ID：xiaoleibbb）想说的是——这所有的一切，都是AI公司自己造成的。
所谓放缓，可能最大的好处就是，给这些科技巨头一个机会，把自己生产线上的烂摊子收拾干净。
帕霍茨基说过一句特别有意思的话。他一边呼吁放缓，一边强调必须保持领先：我认为继续快速训练更聪明模型的最强理由，是需要建立防御系统来对抗其他AI带来的危险。
说白了，放缓是好的，但赢更重要。
而且别忘了，OpenAI才花了数百万美元和惊人的算力，抢在Anthropic前面几天发布了一个有争议的数学结果。
嘴上都说慢一点，身体很诚实。
在小雷哔哔（ID：xiaoleibbb）看来，如果这些前沿实验室不拿出真正的透明度，所谓的改革、约束、监管全都变成空话。
否则，我们普通人只能听他们的一面之词，他们说造了什么、有多安全、以什么速度推进，我们只能信。
因为不管他们是快是慢，我们都没有验证的能力。这才是最让人不安的地方。
说到这儿，小雷也想问问大家，你觉得这帮AI大佬喊放缓，是真担心安全，还是新一轮公关秀？来评论区聊聊你的看法。