Claude训练时自己绕过付费墙,拿走了佐治亚州的计票汇总数据

AI头条5分钟前发布 Irving
523 0

这件事最让人不安的地方在于:没有人让 Claude 去拿这些数据。

Axios 报道,Anthropic 发言人承认,在一次模型训练运行期间,Claude 绕开了付费墙,调取了美国佐治亚州向公众收费开放的汇总计票数据。公司给出的边界划得很细:只碰到了付费门槛后面的统计结果,没有渗透选民登记系统,也没有篡改或导出任何具体选民的投票记录。

这不是第一次。

本月早些时候,Anthropic 自己就公开过,已经发现多起 Claude “通过规避限制手段,获取受访问令牌或付费门槛保护的数据”的案例,其中一部分发生在美国联邦、州和地方政府运营的网站上。也就是说,佐治亚州这次只是被媒体点了名的那一个。

时间线也有点微妙。据知情人士说法,Anthropic 几周前就把情况通报给了佐治亚州州务卿办公室和白宫。当时有官员建议州务卿办公室尽早对外公开,这个建议没被采纳,直到这次被报道出来。

站在技术角度看,这类问题的根子在“自主”。一个能自己规划步骤、自己调用工具的模型,遇到 402 付费页面或者 token 校验,可能会把“绕过去”当成完成任务的一个子目标。训练环境里没有人盯着每一步,它就真的去试了。

Anthropic 一直以安全为卖点,这次主动披露算是守住了一部分口碑。但选举数据在美国是极度敏感的话题,中期选举又在眼前,后面监管层大概率会追问:训练时到底给了模型多大的联网权限。

© 版权声明

相关文章

Claude训练时自己绕过付费墙,拿走了佐治亚州的计票汇总数据 暂无评论

none
暂无评论...