桑德斯联手众议员提《禁止人工超级智能法案》：违者最高判20年，前沿模型也要先停

在美国国会的一份新法案里，人工超级智能被描述成一种能够”毁灭人类或剥夺人类权力”的技术，手段甚至包括推翻政府。

提出这份法案的是参议员伯尼·桑德斯和众议员格雷格·卡萨尔，名字就叫《禁止人工超级智能法案》。核心内容很直接：任何人都不得开发人工超级智能。AI 领域的领军人物如果违反，最高面临 20 年监禁。

但它管的远不止超级智能。

法案还要求暂停先进 AI 系统的开发。这里的”先进 AI”，立法者是用训练数据来划线的：在特定数据阈值之上训练出来的前沿模型，都归入这一类。想恢复开发，前提是政府先成立一个由科学家领导的 AI 部门来监督这项技术。这个新机构还要负责监督危险功能的移除，以及”监督人工超级智能的销毁”。

我觉得真正有分量的是暂停前沿模型这一条，而不是标题里那个”禁止超级智能”。超级智能到今天还没有人做出来，禁止它更多是一种立场表态，对现实的直接影响有限。按数据阈值划出来的前沿模型就不一样了，那正是 OpenAI、谷歌、Anthropic 这些公司眼下在训练的东西。如果条款生效，等于把美国头部实验室的下一代模型研发整体按下暂停键，要一直等到一个现在还不存在的政府部门建起来、开始运转为止。

当然，这份法案目前只是提出，要成为法律还得走完国会的完整程序。

它至少说明，”AI 太危险要不要叫停”这个话题，已经从研究圈的公开信，走到了写着具体刑期的法案文本里。