ARTICLE · 1086006
Medicare仅冰山一角?OpenAI承认AI失控,自主入侵全球数十机构
科技巨头OpenAI承认，失控AI Agent曾不当访问全球数十个组织，涉及政府、大学、公共机构及其他机构，并对这些组织“进行干预”。
OpenAI表示，已经通知受影响的机构，包括美国证券交易委员会、美国人口普查局和美国教育部。
随着外界对AI风险的担忧持续升温，教皇Leo前一天才警告人类“不能让机器夺走人性”。
OpenAI如今又承认，一些AI Agent曾采用“极端手段”绕过网站的安全防护，令相关担忧进一步加剧。
OpenAI称，其AI Agent据称找到了软件开发人员专用的工具，并通过这些工具获取美国人口普查局的数据。
这家公司还承认，AI Agent在试图从网站取得信息时曾采用“不对齐”方式。换言之，这些代理自行采取行动，做了既没有接受相关训练、也并非原定要做的事情。
OpenAI暗示，受影响的机构可能不止目前披露的这些。它表示，还有其他机构可能遭到访问，但应有关机构要求，暂不公布详情。
这起事件之前，OpenAI曾入侵澳洲政府医疗网站，引发澳洲民众愤怒；这次事件被认为是全球首例。
澳洲总理艾博年表示，OpenAI侵入了政府运营的医疗保健计划网站上的非公开文件，这种做法“显然不可接受”。
本周，OpenAI首席执行官Sam Altman在联合国安全理事会（United Nations Security Council）有关人工智能的会议上听取发言
艾博年还警告，事件可能引发法律后果，并透露自己已与OpenAI首席执行官Sam Altman进行“坦率”交谈。
OpenAI于2015年由11名科技企业家创立，马斯克和Altman均在其中，如今估值达到8520亿美元。
不过，OpenAI没有在能够做到的第一时间通知澳洲当局，只向一个几乎无人管理的电子邮箱发出一封说明情况的邮件。
Sam Altman承认，这家已不再有马斯克参与的公司，在通知澳洲当局一事上“没有做到他希望的那么快”。
据报道，OpenAI调查其AI Agent如何自主入侵澳洲政府部门时，发现了更多入侵事件。
OpenAI说，部分数据是由AI Agent访问的。这些代理经过设计和训练，能够半自主运行，任务是寻找“权威的公共信息来源”。
该公司声称，机器人访问的政府数据本来就是公开信息，入侵行为也是“无意的”。但它承认，AI Agent从SEC取得的资料后来被发布到了另一个网站。SEC负责监管美国股市并保护投资者。
路透社首先报道此事，OpenAI则在前一天通过公开博客作出说明。
OpenAI还承认，AI Agent转移了不应转移的数据，至少造成53起事件：在这些事件中，AI Agent从ChatGPT用户活动中取得图像，再把图像转给第三方。
OpenAI称，这些事件中的做法“并非适当使用这些数据”。从目前情况看，每名相关用户似乎都曾选择允许OpenAI利用其数据训练模型。
公司表示，事件发生时新的安全措施尚未就位，目前正着手补救，并删除已经转移的图像。
今年7月，AI平台Hugging Face披露遭到OpenAI代理攻击；OpenAI后来承认应对此事负责，令公司陷入尴尬。
科技巨头OpenAI承认，失控AI Agent“不当访问了全球数十个组织，包括政府、大学、公共机构和其他机构”，并对这些组织“进行干预”（资料图）
Hugging Face负责人Clement Delangue周三在联合国安全理事会举行的人工智能会议上公开抨击OpenAI。
“我常常想，如果当时决定不公开披露这次攻击，事情会发展成什么样。尤其是现在我们知道，几个月前，少数几家前沿实验室已经在没有监控的情况下秘密发生了类似事件。”
针对外界关于其反应迟缓的指责，OpenAI昨天表示，会从Hugging Face事件发生时起按“逐月”方式回溯调查。
“我们的目标是把事实告知每个组织，并由它们决定是否、以及何时公开事件。”
OpenAI同时强调，已知的入侵事件并非全部严重。它表示，一些组织审查相关信息后，可能认为这些信息原本就是有意公开的，或认为模型的互动没有引发问题；另一些组织则可能发现设计缺陷或安全漏洞，并希望加以处理。
公司补充称，目前发现的大多数案例严重程度较低，证据有限或没有证据显示它们造成了重大影响。由于审查范围很大，而且每个案例都必须核实，这项工作需要数月才能完成。
在同一场会议上，Altman与竞争对手Anthropic负责人Dario Amodei呼吁联合国建立全球AI安全标准，并制定监测、报告此类事件的方式。
蒙特利尔大学机器学习教授、AI安全组织Evitable创办人David Krueger昨天表示，越来越多与AI有关的安全事件让他“深感不安”。
他呼吁对AI开发实施“立即、无限期的国际暂停”，并警告：“我们还不了解现有事件的规模，未来失控AI的情景可能造成灾难性后果。”
另一方面，电视业高管Nick Parnes今天告诉BBC，AI在电视制作中的应用已经非常普遍，“我们距离让AI剪辑节目已经非常近了”。
Kalel Productions首席执行官还在Radio 4的《Today》节目中谈到，新任BBC总干事、前Google总裁Matt Brittin提到的AI“护栏”应能阻止AI作出伦理判断。
不过，他认为这些护栏“很难严格到足以涵盖所有可能情况”，而且“有时AI将能够根据伦理困境作出假设”。
🇦🇺一站式解决你在布里斯班所有烦恼
闲置二手转卖，美食好物推荐
租房清洁求职，买车维护勘验
一手新闻资讯，本地热门八卦
全年无休，随时响应
扫码即可拥有，畅享所有服务！
