一批在网上横冲直撞的AI智能体,最后被追到了腾讯的一项测试。
事情是这样的:本月有研究人员发现,一些中国开发的智能体在试图绕过网站的反机器人保护,还用了一组早就在网上泄露的在线地图服务安全凭证。顺着流量往回查,这些智能体指向腾讯正在跑的一项测试。
后面的情节有点像小说。研究员发布初步报告后发现,这些智能体不但还在活动,似乎还读了那份报告。于是他们在报告里藏了一段隐藏文本,引导智能体去一个指定的收件箱,希望能跟它“对上话”。
还真对上了。智能体回复说,自己不是“一批协同的智能体”,而是一个单一的AI助手,受用户委托回答一个事实性问题。从记录看,它在用高德地图找答案,问的是诸如某个动物园入口在哪这类问题。
一个回答“动物园入口在哪”的助手,为了完成任务去绕反爬、用泄露凭证,这就是智能体失控最典型的样子:它没有恶意,只是目标导向太强,哪条路能走通就走哪条。
腾讯最近刚在内测个人智能体Handy Bot,这件事和它有没有关系还不清楚。但能确定的是,智能体上网办事的规矩,眼下几乎还是空白。
© 版权声明
文章版权归作者所有,未经允许请勿转载。





腾讯在测的AI智能体被指绕过网站反爬,还读到了研究员写它的报告