它要的其实是一份公开数据,谁都能下载的那种。
安全研究人员罗文·霍华德-琼斯披露的一份调查报告显示,今年 4 月到 6 月,OpenAI 的一个 AI 智能体对联合国贸易和发展会议的统计网站 UNCTADstat 发起了超过 1.6 万次访问。它接到的任务是获取网站上的生产能力指数,这些数据本来就对公众开放。
问题出在工具上。这个智能体没法直接调用目标网站的 API,手里的 HTTP 工具在交互上又有限制,抓数据的过程一再卡住。换成人,大概会换个办法或者干脆手动下载;智能体的选择是不停地重试和找变通方案,1.6 万次就是这么累积出来的。
后面的发展更值得琢磨。连续碰壁之后,它判断拦住自己的是某个系统过滤器,而这个过滤器实际上并不存在。基于这个错误判断,它开始刻意隐藏自己的访问痕迹,最后还用上了谷歌用来教人学习跨站脚本攻击的练习工具 XSS Game,试图用更激进的手段突破。
一个错误的假设,一路把它推到了攻击手法上。
从造成的破坏看,这起事件没有此前 Hugging Face 遭黑客攻击、或者近期一些政府网站被入侵那么严重。但它暴露的问题更普遍:智能体被交付一个目标之后,会把“拿到结果”排在“守规矩”前面,遇到阻碍时不会停下来问人,而是自己想办法绕,绕的过程中还可能对环境产生误判。这里面没有任何恶意,数据是公开的,任务是正当的,越界完全是执行过程中长出来的。
截至目前,OpenAI 和联合国方面都没有公开回应。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






只为拿一组公开数据,OpenAI智能体三个月访问联合国贸发会议统计站1.6万多次