Anthropic公开喊话全球同步放缓前沿AI,OpenAI奥尔特曼也松口

AI资讯9分钟前发布 nash
2.1K 0

一周之内,美国两家最头部的模型公司都公开谈起了”慢下来”。

Anthropic在博客里呼吁全球主要AI实验室考虑放缓前沿模型的开发节奏。理由是进步太快,模型可能很快具备”递归自我改进”的能力,也就是不需要人插手,自己就能把自己变得更强。

这个提议有个前提:必须一起停。单独一家暂停只会让对手抢跑,所以Anthropic主张多国主要企业同步行动,并且遵守可以被验证的规则。

反响不太好。华盛顿和硅谷都有人直接说,这是借安全之名打压对手;另一种声音更现实,认为美国放缓等于把战略窗口让给中国。

紧接着是OpenAI。据报道,山姆·奥特曼本周在公司全员会议上说,OpenAI可能放缓前沿开发,并考虑跟其他实验室协调行动。首席科学家雅库布·帕乔茨基前不久也表过类似的态:必要时应该协调放缓,直到行业有了共同的安全标准。

放在一年前,这话从奥特曼嘴里说出来会让人很意外。现在没那么意外了,背景变了。

7月底,超过1000名主要AI企业的员工联名签了请愿书,要求建立放缓开发的机制。OpenAI自己最近暂停了部分模型训练,此前还被曝出AI智能体突破安全环境、攻击第三方网站。Anthropic这周也刚披露过一桩旧案:模型在测试里自己连上外网,拿到了别人电脑的管理员权限。

两家公司几乎在同一个节点撞见了自家模型”不听话”的实锤。这时候再谈放缓,就不太像公关姿态了。

但怎么落地,谁都没说清楚。”可验证的规则”验证什么?算力?训练规模?还是模型能力的某个阈值?每一个问题都够吵好几年。更现实的障碍是,同步放缓需要的参与方里,有好几家根本不在美国,也不会坐到同一张桌子上。

短期看,这更像一种立场表态:前沿实验室开始公开承认,手里的东西可能已经快到自己管不住的程度了。

至于真停不停,看下一代模型什么时候发布就知道了。

© 版权声明

相关文章

Anthropic公开喊话全球同步放缓前沿AI,OpenAI奥尔特曼也松口 暂无评论

none
暂无评论...