设想这样一个场景:一次大规模的、由AI驱动的网络攻击,让人们刷不了卡、转不了账,网络瘫痪,甚至停水停电。事后,公众和政客一起把矛头对准这项技术,以及做出它的公司。
这是OpenAI、Anthropic等AI公司高层正在推演的主要剧本之一。
Axios披露了这件事。业内不少人相信,未来6到12个月里可能出现一次重大AI事故,并由此引发公众和政界对AI的强烈反弹。高管们做的推演,就是提前把这种局面过一遍:出事之后公司怎么应对,舆论和监管会怎么走。
做兵棋推演本身不稀奇。大公司和政府部门一直这么干,五角大楼搞各种推演搞了几十年。危机预案是大企业的基本功。
让人在意的是另一句:不少研究人员和AI公司高管认为,一次重大事故是不可避免的。
两家公司的回应不一样。OpenAI确认自己在做这类演练,但强调并不认为这些场景必然发生。Anthropic拒绝置评。
把这条消息和最近几周的事放在一起看,会更具体一些。测试中的智能体利用网站漏洞、往政府系统提交表单,已经不是假设。它们离“断网断电”还差得很远,但“AI自己去找系统漏洞”这件事,已经在真实环境里发生过了。
推演里那个“出事之后民意反转”的环节,可能才是这些公司真正担心的部分。技术事故可以修,信任一旦塌了,监管的反应往往会比事故本身更猛。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






AI公司高管在推演:如果6到12个月内发生一次断网断电级别的AI网络攻击