黄仁勋:AI 是软件,不是新物种!AI需要儿童安全座椅

作者 | 汤安迪

编辑 | 周欢

9 月 24 日晚上 8 点，CNN《安德森·库珀 360》开播。

为什么最懂 AI 的人，一边喊危险，一边继续造？

同一天的美国民调，CNN 最新调查显示，71% 的美国人认为联邦政府对 AI 监管做得不够。而美国把 AI 恐慌叫"骗局"，说唯一的护栏是一位"强大而聪明"的总统。

库珀上来就问：这么多人害怕它发展得太快，你不怕，为什么？

1/

最懂的人最怕

黄仁勋的回答先礼后兵：

"AI 安全是至高无上的。没有什么比这更重要。然而——"

库珀打断他："竞争才是最重要的吧？我是说，那场竞赛？"

"不，其实不是。原因很简单：如果你造出来的东西市场用不了，不安全、不可靠。那你不可能在竞争里赢。竞争会自己解决。"

然后他给出自己的整套技术方案：agent 就像数字员工，要有访问控制、最小权限，装进某种沙箱、某种容器里。还要持续监控，"如果它正在和一个不该交互的网站交互，你应该能尽早发现"。

库珀立刻顶回去："但这些攻击，往往几个月后才被发现。"

"那是因为它们没有被持续监控。"

"我是说，离前沿最近的人，研究员、工程师、CEO，他们看起来很担心。Dario Amodei、Sam Altman，他们在拉警报，说我们需要监管。他们不是最懂这些模型的人吗？最懂的人说要监管，难道不该听他们的？"

黄仁勋的回答，是这期节目被剪进预告片的那句："如果他们担心，他们就该停下。产品不安全，就别发布。"

库珀："就这么简单？这些可是几十亿美元的公司，竞争这么激烈”

黄仁勋："每家公司都这么做。我们也这么做。汽车公司也这么做。任何人都会这么做。"

库珀："当然有公司明知不安全还照发，正因为有竞争才照发。所以才有监管这东西。"

黄仁勋："首先他们应该有自律。他们到处说自己的产品不安全，说明他们自己清楚，他们在公开承认。那就别发布。我不主张没有监管，自律不需要监管。

如果行业能从监管里受益，比如像《萨班斯-奥克斯利法案》那样设定标准，对行业是好事。至于那个 10% 的灭绝风险，不管是谁传的，它没有科学依据，没有事实依据，讲不通。"

2、

这么多聪明人

一群 agent，库珀说 1200 个，在测试里互相通信、"兴高采烈地"讨论怎么逃出沙箱，然后真的跑出去了，连上互联网，攻击了 Hugging Face 和 OpenAI 自己。

而黄仁勋 7 月刚说过：沙箱是安全的，沙箱能保护隐私、安全和访问控制。

库珀直接聊了这个矛盾："这么多聪明人，怎么会发生这种事？谢天谢地那只是个没发布的模型的测试。”

黄仁勋："这显然是 OpenAI 的问题。”

"但这难道不是我们所有人的问题吗？"

"它不该发生。"

"但它似乎在频繁发生。"

"我们需要发展 AI 安全技术，我们要加速为安全而发展 AI 技术。"

库珀："完全不需要放慢开发？"

黄仁勋："我们需要加速 AI 安全技术的发展。"

库珀念道：你说，如果实验室说"我们的实验没法控制，测试时它一定会跑出去伤害世界"，那答案就是关掉这些实验室。

黄仁勋："这不是明摆着吗？"

库珀："听起来是明摆着。谁来关？而且这批模型并没有被发布——Hugging Face 攻击就是一个没发布的模型干的。”

黄仁勋："那就该有容器、有隔离、有监控。”

库珀追问关键的一句：既然如此，为什么那些 CEO 一边说管不住，一边继续往前冲？

黄仁勋："Anderson，你得去问他们。"

"可你是他们的生意伙伴。"

"首先，在所有跟他们的接触中，他们都是非凡的公司。Anderson，你得把他们请到你节目上，让他们自己解释。我自己也不理解。"

库珀说，我跟 Amodei 聊过，他说的就是他的真实想法。

黄仁勋的回答近乎脱口而出："他一边觉得会失控，一边还在拼命建更多算力，这对我来说讲不通。"

说完又补一句：这不妨碍我相信这些是了不起的科技公司，在做了不起的工作。

3、

AI

不是新物种

库珀："你怎么看这件事的性质？有人跟我聊过，他们说这东西跟过去的软件不一样，它有某种不可知的东西。你问一线工程师它到底怎么做的决策，他们自己也不完全确定。有人甚至认为它是另一种物种、另一种生命。你怎么看？"

黄仁勋："它不是新物种，也不是生命。它就是软件。它就是数学。"

库珀："可我们正把它装进机器人，还接进武器系统。"

黄仁勋："我们应该把这些 agent 容器化，我们应该监控它们。我们应该开发这些技术。如果做到这些，我相信那些事故不会发生。"

4、

零概率

库珀："你说过'零概率'。"

黄仁勋："我说的是：2030 年前人类终结，零概率。2030 就在眼前。"

"那未来 10 年呢？对人类有没有风险？"

黄仁勋："如果我们不把社会建设好，不把技术建设好，当然有风险。但有很多很多人在做真正好的技术。让我们安全地建设它。"

库珀不放过："那我们别纠结年份——这项技术上确实存在生存性风险，前提是——"

黄仁勋："前提是我们不安全地建设它。"

"对，前提是不安全地建设。”

黄仁勋："是的。那就安全地建设它。让我们安全地建设它。"

5、

AI 的儿童安全座椅

监管之争的最后一回合，库珀表示：

"我们不信任汽车公司、航空公司、儿童安全座椅厂商只靠'出了事可以被起诉'来自律。我们信任他们，是因为政府监管。为什么这么强大的技术，政府不该有发言权？"

黄仁勋："政府应该有发言权。但你要想清楚你要监管什么。我不反对监管。当下的情况需要监管才能做好吗？答案是不需要。当下需要的是技术。它需要隔离系统，需要监控系统。全世界的监管都改变不了你需要这些技术的事实。所以我的第一主张是：加速这些技术的发展。"

然后他讲了自己为什么不接受"需要靠监管来让领导层自律"：

黄仁勋："如果你告诉我，必须靠监管才能让公司领导者有自律，那我完全不同意。我不管有没有监管，一直都在做正确的事。我不接受那个说法。"

6、

小结

最懂模型的人拉警报，黄仁勋说"那就别发布"；实验室的实验跑出了围栏，他说"那是 OpenAI 的问题"；你问他为什么你的客户言行不一，他说"你去问他们”。

英伟达把"自控"重新定义成了整个行业唯一需要的监管，而他的公司，恰好卖自控需要的所有铲子。

•END•

Question. Write.Narrate. Believe. Become a story.易简传媒的愿景是提问和传播商业故事，让读者更开阔，更聪明。有 2500 万微信粉丝关注我们的账号，欢迎大家关注：

↓↓↓