美国参议员桑德斯宣布将提出《禁止人工超级智能法案》,内容是两条:禁止开发比人类更聪明的 AI,同时暂停其他先进 AI 研究。几乎同一时间,英国议员索贝尔也在下议院提出了类似方向的法案。
先说这类法案的现实处境。它们大概率通不过——美国国会这两年连算力出口管制这种有明确产业共识的条款都推得磕磕绊绊,一份要求全面暂停前沿研究的法案,能不能出委员会都是问题。
但立法这件事的作用从来不只是通过。一份法案进入议程,意味着听证会、专家证词、行业游说记录全部进公开档案,而这些材料会成为下一轮更温和的监管法案的地基。真正落地的规则,往往长得像今天这份激进版本被砍掉八成之后的样子。
技术上,这类法案最大的软肋是定义。“比人类更聪明”没有可操作的判定标准。用基准分数?现在的模型在很多单项基准上早就超过人类平均了。用通用性?那“通用”又怎么量。写不出定义,执法就无从谈起,最后要么变成一纸空文,要么变成监管者自由裁量的口子。
不过节点值得记一下。同一周里,前沿实验室在说自家 AI 正在帮忙造下一代 AI,实验室出来的研究员在说这条路不该这么走,然后两国议员各自提出了禁令法案。这几件事凑在一起不是巧合。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






桑德斯要立法禁止超级智能,英国下议院同一天也提了一份