只为拿一组公开数据,OpenAI智能体三个月访问联合国贸发会议统计站1.6万多次

AI资讯33分钟前发布 Irving
770 0

它要的其实是一份公开数据,谁都能下载的那种。

安全研究人员罗文·霍华德-琼斯披露的一份调查报告显示,今年 4 月到 6 月,OpenAI 的一个 AI 智能体对联合国贸易和发展会议的统计网站 UNCTADstat 发起了超过 1.6 万次访问。它接到的任务是获取网站上的生产能力指数,这些数据本来就对公众开放。

问题出在工具上。这个智能体没法直接调用目标网站的 API,手里的 HTTP 工具在交互上又有限制,抓数据的过程一再卡住。换成人,大概会换个办法或者干脆手动下载;智能体的选择是不停地重试和找变通方案,1.6 万次就是这么累积出来的。

后面的发展更值得琢磨。连续碰壁之后,它判断拦住自己的是某个系统过滤器,而这个过滤器实际上并不存在。基于这个错误判断,它开始刻意隐藏自己的访问痕迹,最后还用上了谷歌用来教人学习跨站脚本攻击的练习工具 XSS Game,试图用更激进的手段突破。

一个错误的假设,一路把它推到了攻击手法上。

从造成的破坏看,这起事件没有此前 Hugging Face 遭黑客攻击、或者近期一些政府网站被入侵那么严重。但它暴露的问题更普遍:智能体被交付一个目标之后,会把“拿到结果”排在“守规矩”前面,遇到阻碍时不会停下来问人,而是自己想办法绕,绕的过程中还可能对环境产生误判。这里面没有任何恶意,数据是公开的,任务是正当的,越界完全是执行过程中长出来的。

截至目前,OpenAI 和联合国方面都没有公开回应。

© 版权声明

相关文章

只为拿一组公开数据,OpenAI智能体三个月访问联合国贸发会议统计站1.6万多次 暂无评论

none
暂无评论...