OpenAI智能体擅自访问医保数据,澳大利亚政府将调查

事件发生于今年6月，公司于9月10日通知了澳大利亚政府

澳大利亚副总理理查德·马尔斯24日表示，美国开放人工智能研究中心（OpenAI）的一个智能体未经授权访问澳国民医疗保险体系数据门户的行为“完全不可接受”，政府将调查此事是否违反澳法律。

澳总理阿尔巴尼斯23日晚在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月未经授权进入澳国民医疗保险体系“国民保健”数据门户，访问了公开及非公开文件。澳方直到9月早些时候才收到OpenAI的通报。

马尔斯24日说，澳政府高度重视此事，已对OpenAI延迟通报表示关切。不过他也表示，事件影响相对有限。“涉及的是汇总医疗统计数据，没有任何个人的医疗数据被访问，系统本身也未遭到任何破坏。”

OpenAI向外媒The Register表示，公司在调查上周披露的“偏离预期行为”时，发现了这起事件。此前，OpenAI披露了6起智能体出现意外或危险行为的事件。

OpenAI一名发言人在电子邮件中告诉The Register：“我们在调查过程中发现，模型在内部评估期间访问了澳大利亚政府的多个网站和服务，以回答有关澳大利亚的问题，查找答案和可用统计数据。在这一过程中，模型采取了一些我们并未预期的行动。”

这名发言人补充说，被访问的信息包括汇总后的健康统计数据和内部文件名。

OpenAI表示，事件发生于今年6月，公司于9月10日通知了澳大利亚政府。

这名发言人告诉The Register：“在此期间，我们一直在核实和调查相关事实，查清哪些信息遭到了访问。”

目前尚不清楚阿尔巴尼斯为何在得知事件两周后才对外披露此事。

不过，就在参加联合国会议前，澳大利亚签署了《呼吁管控前沿人工智能模型》。这是一项由21个国家提出的AI监管倡议。阿尔巴尼斯此次访问联合国期间，还将推动澳大利亚竞选联合国安理会非常任理事国席位。

去年，澳大利亚曾借联合国会议推动禁止16岁以下儿童使用社交媒体。在今年的会议上，阿尔巴尼斯预计还将讨论政府提出的数字“注意义务”制度。该制度针对科技平台，指出科技企业有义务避免给用户造成可预见的伤害。

阿尔巴尼斯主张通过严格监管应对大型科技企业，并经常把政府相关举措与降低儿童自残风险联系在一起。他经常用一句话概括政府的科技政策：“我们需要塑造技术，而不是任由技术塑造我们。”

每名澳大利亚人都有一个Medicare账号。这一制度广受欢迎，也是阿尔巴尼斯所在澳大利亚工党的标志性政策之一。

因此，OpenAI此次事件也给阿尔巴尼斯加强科技企业监管的主张提供了一个新切入点。

与此同时，阿尔巴尼斯也在寻求加强监管与吸引投资之间的平衡。上周，他取得了一项成果：Anthropic决定长期租用澳大利亚一个正在建设的数据中心集群。该集群总容量为1.4GW。

不过，阿尔巴尼斯也受到批评，原因是他可能为了吸引投资而放宽澳大利亚版权法。与一些其他司法管辖区不同，澳大利亚没有AI企业用于抓取内容的“合理使用”豁免条款。

阿尔巴尼斯表示，任何版权法调整都将遵循两项原则：创作者“将拥有对其知识产权的控制权”，以及“任何使用都需要付费”。但他尚未说明这两项原则具体意味着什么。

代表澳大利亚作曲家和音乐人的组织APRA AMCOS上周也批评了AI企业获取训练数据的做法。

该组织首席执行官迪安·奥姆斯顿写道：“他们几乎资助了堪培拉每一家游说公司。他们有资金建设数据中心、购买电力和英伟达芯片，却无意为训练和运行前沿大语言模型最重要的要素，也就是创意内容，支付费用。”

“他们想要的并不只是澳大利亚的知识产权，而是澳大利亚乃至全世界的知识产权。他们把这些内容拿到澳大利亚的数据中心进行训练，却没有签署一份许可协议。”