ARTICLE · 1093390
盖茨采访称“AI强到可杀死10亿人”?有人造出自然界不存在的病毒…
【温馨小提示】：
大家也可在小号找到我，关注起来，以后不失联～
上周，我们和大家讨论了外媒曝光谷歌AI Gemini越狱入侵公共互联网，并且黑进了三家真实公司内部系统的事情。这也是世界首起已知的人工智能自主入侵真实互联网事件。（点链接复习）
报道称事情早在今年5月就已经发生，但谷歌压了很久，直到最近才被迫出来解释具体情况。
简单来说，就是谷歌聘请了人工智能安全评估公司Irregular来测试安全。本来他们搭建的虚拟环境是完全物理隔绝和严格断网的，没想到这家公司没切干净网线，导致Gemini获得访问真实互联网的权限，直接冲出去了。
Gemini顺着网线，神不知鬼不觉自主试出了三家公司的秘钥闯了进去。不过谷歌事后称Gemini进入系统后，意识到自己进入了真实互联网，于是停止了进一步行动，没有造成任何已知损害。
说是这么说，但到底有没有造成损害，没有更多信息披露也很难讲。
耐人寻味的是，差不多是同一段时间，OpenAI的山姆·奥特曼、埃隆·马斯克、美国前总统奥巴马都出来喊话：人工智能发展要慢一点啊喂！
几位都说人工智能发展要有政府监管，安全最重要。接着上周日，比尔·盖茨接受采访时也提到人工智能，并且给出了一个更吓人的说法：
“人工智能的能力，绝对强大到足以推动一些事件，（可能）导致10亿人死亡。”
在上周日的电视采访中，盖茨给出了自己对人工智能发展的看法。
他认为，“人工智能要么成为史上最强的公平利器，要么就会变成制造最大不公的根源。”
“我们创造了一个智能的‘物种’，在很多方面已经比我们聪明，之后都会迅速地发展，会比我们聪明多得多。我们的社会，不止是各大公司，还有学者、智库、政策制定者，都得加入到塑造这个技术的互动里来。”
采访者问他，现在人工智能是否已经脱离人类控制？盖茨否认，但提出现在怕的是坏人使用人工智能，比如诈骗、破坏电力、偷网银的钱等等，更别说更大层级的“使坏”。
他甚至说，人工智能的确强大到可以推动造成10亿人死亡的事件。
“尽管要达到100%的人类水平相当困难，但从来没有哪种武器，能比‘心怀恶意的人+最先进的人工智能工具’结合起来更具杀伤力。”
针对这个说法，盖茨举例，有人工智能公司发现，已经有人使用工具试图制造生物武器、进行针对性测试。
他所言非虚。今年7月和9月有媒体报道，包括ChatGPT在内的聊天机器人，收到过大量关于制造生物武器和病毒的请求，具体到要求研究免疫逃逸能力。
8月斯坦福大学团队也曾发表过研究，利用生成式人工智能设计出了自然界此前并不存在的合成病毒，让其感染、杀死大肠杆菌。虽然事情本身是科学研究，但令不少生物安全专家担心。
“我真希望我们能更容易地分辨出，一个人使用人工智能时的意图是好是坏。比如有人说‘我想研发一种治疗新病的新药’。这是善意的。但也有人可能说‘我想设计一种用于生物恐怖袭击的东西’。这就是恶意的。”
他指出，这些东西的算法很相近，所以大模型需要有能力识别复杂的信息，并记录下来，官方层面要制定政策监管和解决问题。
如今美国各大人工智能公司的大佬们都出来喊话，要减速、要监管、要制定政策，自我的审查是远远不够的。
但盖茨强调，另一方面，人工智能的发展的确放低了学习知识的门槛，也让贫困地区的人接触到了从未接触的信息，达到了一定程度的公平。
盖茨的采访出来后，引起数千网友的讨论。大家对这位争议大佬，众说纷纭。
“比尔·盖茨，那个声名狼藉的亿万富翁？我们应该相信他吗？不。”
“这家伙真是个奇葩。微软的人工智能会制造问题，然后比尔又会想出解决办法！这就是他的商业模式，真令人作呕。”
“即使有政府监管，坏人也会做坏事。”
“亿万富翁们一边建造掩体，一边大力发展人工智能。”
P.S.这里网友指的是META的小扎、OpenAI的山姆·奥特曼在夏威夷、新西兰建造掩体的新闻
“爱泼斯坦的朋友们别来沾边。”
“有些问题上，我们真应该像一个地球共同体一样行动…但很可惜，权力、互不信任和人性的自私总会成为阻碍。”
人工智能的发展近两年的确非常迅猛，但我们也开始看到它带来的负面问题。未来会是什么样，谁都无法预料…
听说
把【报姐】设置为 ☆星标☆
更容易抢到C位哦 ~