上市当天站在 Anthropic 总部门外的,有它自己的前研究员:他要求禁掉递归自我改进

AI资讯5分钟前发布 Scrimp
2.2K 0

Anthropic 在纽约敲钟的同一天,旧金山总部门外聚了一群抗议者。人群里有一张熟面孔:前研究员雅各布·考克森。

他的诉求很具体:禁止 AI 系统做递归自我改进,也就是 RSI,「关掉它」。

RSI 指的是 AI 去改进自己的算法、模型或者研发流程,再拿变强之后的能力做下一轮改进。支持的人觉得这是加速科研的捷径;反对的人担心的恰恰是这个加速,循环一旦跑起来,人可能来不及看懂发生了什么。

考克森对人群说,这里每来一个人,就有几十万人如果知道正在发生什么,也会站到这里来。

他已经从 Anthropic 离职。上市前一晚,还有近 90 名学者联名发信批评这家公司。

公司内部的声音也不统一。负责 Claude 防滥用的安全团队研究员 Tao Lin 在一段采访里说,他认为地球上几乎所有人都很可能永久失业,只能靠政府福利过活。这段 16 秒的片段在 X 上被看了近 400 万次。

被剪掉的是后半段。主持人追问会不会在 15 个月内发生,他说不会。在他看来,AI 能替代人和真的替代人之间隔着很长一段时间,物理世界的活得先有几十亿台机器人才干得了。

传播最广的往往是最吓人的那半句。

Anthropic 自己的招股书里提过 RSI 风险,阿莫代伊在台上也承诺会控制节奏,不屈服于商业压力。外面的人要「禁止」,里面的人给「谨慎」。这两个词之间的距离,大概就是这家公司未来几年会被反复追问的地方。

上市以后,追问的人又多了一类:股东。他们关心的方向,正好和门外那群人相反。

© 版权声明

相关文章

上市当天站在 Anthropic 总部门外的,有它自己的前研究员:他要求禁掉递归自我改进 暂无评论

none
暂无评论...