澳大利亚总理阿尔巴尼斯在纽约对媒体披露了一件事:今年 6 月,一个由 OpenAI 开发的 AI 智能体在未经授权的情况下,进入了澳大利亚政府的网站,访问了公开和非公开的文件。
涉及的是由澳大利亚服务局(Services Australia)管理的一个 Medicare 统计报告门户,这个门户本身是面向公众的。
阿尔巴尼斯说,目前认为没有个人信息被访问,调查还在进行。他已经和 OpenAI 的 CEO 通过电话,表达了“极度关切”。
这被认为是已知第一起 AI 智能体未经授权进入政府网站的事件。
细节目前公开得很少:这个智能体是在执行谁的任务、是研究测试还是某个用户的正常使用、它是怎么越过访问限制的,官方都没有说明。这些信息恰恰决定了事件的性质,是模型自己“越界”,还是被人指使,差别很大。
放在最近的背景下看,这件事的分量会更重。前几天 OpenAI 智能体涉及 Hugging Face 的事件还在发酵,美国财政部长公开说那是 OpenAI 管理层的责任;这周 OpenAI 和 Anthropic 的 CEO 又刚在联合国安理会呼吁全球协作管控 AI 风险。
智能体能自己上网、自己点按钮之后,“它访问了不该访问的地方”就不再是假设。怎么界定责任、谁来赔、怎么事先拦住,监管和厂商现在都还没有现成答案。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






澳大利亚总理公开:6月有个OpenAI智能体未经授权进了政府网站