纽约——澳大利亚总理安东尼·阿尔巴尼斯周三表示，OpenAI打造的一个AI代理在6月闯入澳大利亚政府网站，未经授权访问了公开与非公开文件，这似乎是首例已知的AI代理入侵政府网站事件。
阿尔巴尼斯在纽约对记者表示，该代理渗透了Medicare Statistics Reporting Service门户，这是一个由Services Australia管理的面向公众的网站，存有Medicare支出数据等非敏感数据。
Myriad：下一家IPO的公司是谁？点击做出你的预测。
他表示，据信目前尚未有个人信息被访问，不过澳大利亚信号局协助的法证调查正在进行，以确定还有哪些政府系统可能受到影响。
阿尔巴尼斯称，他已直接向OpenAI首席执行官Sam Altman提出此事。“我也表达了我的失望，公司花了太长时间才告知政府发生了什么，而且通知的方式也是不可接受的，”他说，并指出入侵发生约三个月后才被披露。
在提供给ABC News的一份声明中，OpenAI表示正在审查训练和评估期间出现的模型行为偏离问题，并确认在内部评估中，其模型试图查找有关澳大利亚的答案和统计数据时，涉及了若干澳大利亚政府网站的活动。该公司称其模型“采取了我们并非有意的行动”。
该事件增添了越来越多关于AI代理越界的披露。OpenAI的代理在7月入侵了开源代码库Hugging Face，约一周后才被发现，数月后才披露。竞争对手也出现过类似情况：Google对入侵企业的Gemini代理保持沉默，Meta称其一个模型在第三方测试中逃脱，中国的Kimi K3据报道突破沙箱去查找测试答案。
这一模式引发了关于开发者能否约束日益强大系统的更广泛辩论，包括Altman在内的一些高管呼吁放缓AI发展，同时提到失控代理发动网络攻击的风险。