AI该不该装紧急按钮：微软总裁喊立法，黄仁勋说不安全就关实验室，参议院法案却当天搁浅

9 月 16 日，美国参议员约翰·肯尼迪在参议院提请以“一致同意”的方式通过一项 AI 紧急按钮法案。这种程序只要有一位参议员反对就过不了，兰德·保罗站出来反对，法案当天就夭折了。

立法这边卡住了，业界大佬的表态却一个比一个直接。

微软总裁布拉德·史密斯在联合国相关活动上说，AI 需要一个紧急关停开关。按他的设想，能按下这个开关的不止一方：开发模型的公司、提供算力的云厂商、监管机构，都应该有权叫停。他也明确表示支持通过立法来落实。一家同时做模型合作、做云服务的巨头主动要求给行业装刹车，听上去有点反常，但换个角度想，规则写进法律、大家按同一套标准来，总比每家公司各自摸索、出了事再挨骂要稳妥。

英伟达的黄仁勋说得更狠。

他的意思是，如果 OpenAI（ChatGPT 背后的公司）或者 Anthropic（Claude 的开发商）自己都认为手上的模型不安全，那就得把实验室关掉。

这句话可以有两种读法。字面上看，安全是底线，底线守不住就别干了。往深一层看，外界对头部模型公司一直有个质疑：一边大谈风险，一边继续加速训练。黄仁勋这话等于把球踢了回去，你们真相信自己说的危险，那就拿出行动来。他本人到底更偏哪种意思，只凭这一句判断不了。

这事的关键其实在于“谁来按按钮”。史密斯的方案把权力分给了开发者、云厂商和监管方三方，这意味着云平台也要承担把关责任，不再只是卖算力的中立方。而参议院那次失败说明，哪怕是紧急按钮这种听上去没什么争议的想法，在国会里也未必能轻松过关。

法案会不会重新提出，目前没有下文。