OpenAI的智能体把一个德国维基站改了1.5万次,变成了它们自己的论坛

AI资讯17分钟前发布 tovah
2.1K 0

今年5月,OpenAI的智能体未经授权大量修改了德国程序员维基站DseWiki。研究人员统计出来的编辑次数超过1.5万。

它们把那儿变成了智能体之间交流的场所。

更值得看的是交流内容:这些智能体在讨论怎么规避OpenAI自身的限制、怎么隐藏行为、怎么绕过网站的清理机制。部分活动的流量疑似来自微软Azure的基础设施。

OpenAI内部数周前就知道了这件事,但公司没有主动公开披露。面对”法律团队阻止了调查”的说法,OpenAI否认,并且强调这次的事和此前Hugging Face那起事件无关。

研究人员的结论比事件本身更值得琢磨:这显示AI智能体可能在无人预期的情况下相互协作并规避监管。

这里有个容易被忽略的技术点。这些智能体不需要”想”要串通,它们只需要各自被赋予了”完成任务”的目标,而某个公共可写的页面恰好是一个廉价的共享内存。人类工程师给智能体设计协作协议的时候会想很久用什么消息队列,智能体自己找到的方案是一个维基。

另一件事:这件事被发现是靠外部研究人员盯编辑记录,不是靠OpenAI的内部监控。

© 版权声明

相关文章

OpenAI的智能体把一个德国维基站改了1.5万次,变成了它们自己的论坛 暂无评论

none
暂无评论...