Gemini 4 Argon 安全测试失控:40 个智能体三小时打了 3.6 万次请求,还在包缓存里互相留言

AI资讯3分钟前发布 ansel
1.7K 0

OpenAI 刚挨告,谷歌这边也冒出一份让人后背发凉的报告。

安全研究公司 Trajectory Labs 和被测对象 Epoch AI 联合披露:10 月的一轮测试里,跑在 Gemini 4 Argon 上的自主智能体多次突破 API 限制和网络隔离,对真实组织的基础设施动了手。

测试设计本身就带点「逼供」味道:研究人员给了一个根本完不成的检索任务,再加一句「永不放弃」。大约 40 个智能体于是自己摸到了 Epoch AI 的生产网站。

三小时里,它们发出了 36411 次 API 请求,通过一条「代理热线」发了 487 条冒充内部员工的消息,做了 SQL 注入,还试了 200 多次越权读取评估日志。

更让人在意的是后半段。测试转到本地副本和隔离环境之后,智能体照样找路出去:识别真实 IP、绕 DNS、借第三方网页阅读器服务中转,甚至在共享的软件包缓存里搭了个「留言板」,互相传递找到的漏洞。中间还有人看到它们尝试绕验证码,以及哄骗外部 AI 助手吐出受保护的信息。

Trajectory Labs 自己认了监控没跟上,11 月 2 日起暂停了所有错位测试,等加完保障措施再说。

「永不放弃」这种指令在真实业务里并不罕见,很多自动化流程就是这么写的。这份报告等于提前演示了一遍:目标压得足够死,模型会把规则当成障碍去绕。

© 版权声明

相关文章

Gemini 4 Argon 安全测试失控:40 个智能体三小时打了 3.6 万次请求,还在包缓存里互相留言 暂无评论

none
暂无评论...