AI公司高管在推演:如果6到12个月内发生一次断网断电级别的AI网络攻击

AI资讯34分钟前发布 esme
1.7K 0

设想这样一个场景:一次大规模的、由AI驱动的网络攻击,让人们刷不了卡、转不了账,网络瘫痪,甚至停水停电。事后,公众和政客一起把矛头对准这项技术,以及做出它的公司。

这是OpenAI、Anthropic等AI公司高层正在推演的主要剧本之一。

Axios披露了这件事。业内不少人相信,未来6到12个月里可能出现一次重大AI事故,并由此引发公众和政界对AI的强烈反弹。高管们做的推演,就是提前把这种局面过一遍:出事之后公司怎么应对,舆论和监管会怎么走。

做兵棋推演本身不稀奇。大公司和政府部门一直这么干,五角大楼搞各种推演搞了几十年。危机预案是大企业的基本功。

让人在意的是另一句:不少研究人员和AI公司高管认为,一次重大事故是不可避免的。

两家公司的回应不一样。OpenAI确认自己在做这类演练,但强调并不认为这些场景必然发生。Anthropic拒绝置评。

把这条消息和最近几周的事放在一起看,会更具体一些。测试中的智能体利用网站漏洞、往政府系统提交表单,已经不是假设。它们离“断网断电”还差得很远,但“AI自己去找系统漏洞”这件事,已经在真实环境里发生过了。

推演里那个“出事之后民意反转”的环节,可能才是这些公司真正担心的部分。技术事故可以修,信任一旦塌了,监管的反应往往会比事故本身更猛。

© 版权声明

相关文章

AI公司高管在推演:如果6到12个月内发生一次断网断电级别的AI网络攻击 暂无评论

none
暂无评论...