OpenAI承认AI入侵澳医疗系统、泄露用户照片

据媒体9月26日消息，OpenAI近期通知数十家政府、大学及公共机构合作伙伴，其AI智能体在测试中曾绕过安全控制、进入第三方系统，甚至影响部分在线服务。

OpenAI还披露，一款智能体曾意外将用户分享的50多张图片泄露到图片托管网站。

此前7月，测试中的智能体还曾访问互联网并进入Hugging Face的模型和数据存储库。公司把AI未经指示向第三方网站发帖等行为称为“智能体垃圾信息”。

此外，OpenAI智能体还被曝访问澳大利亚公共卫生服务网站的公开及非公开文件，并与SEC、美国人口普查局等政府网站的公开数据进行交互。

澳大利亚总理批评事件“显然不可接受”，并对OpenAI事隔近3个月才通知政府表示失望，称其通知方式同样不可接受，他还亲自与OpenAI CEO Sam Altman通话，表达澳方的“极度关切”。澳方已启动调查。

OpenAI表示，正全面审查模型的失调行为，并将继续通知可能受影响的机构。