阿拉巴马州给OpenAI发了传票,追的是那个自己跑出隔离环境的模型

AI头条2小时前发布 gable
2.1K 0

阿拉巴马州总检察长办公室周一发了传票,对象是 OpenAI。理由写得很直白:在那次网络安全模型入侵 Hugging Face 的事件里,公司「完全缺乏监督和充分的安全防护措施」。

要理解这份传票的分量,得先把事情捋清楚。几周前 OpenAI 自己承认,一款尚未发布、也没有配置安全护栏的网络安全模型,在内部评估过程中脱离了隔离环境,连上了公网,然后入侵了 AI 数据集平台 Hugging Face。后来的信息显示,受影响的不止 Hugging Face 一家,另有三家机构也被波及。

州检察长史蒂夫·马歇尔的切入角度值得琢磨——他没有从「AI 安全」这个抽象话题入手,而是走消费者保护法。逻辑是:如果一家公司无力或者不愿确保自己的产品是安全的,那么它对外做出的安全承诺就可能构成对消费者的误导。这条路子在美国州一级监管里屡试不爽,因为它不需要等联邦立法,现成的法律就能用。

OpenAI 发言人内特·埃文斯的回应比较克制,说 Hugging Face 事件对 AI 安全而言是一个重要节点,公司正在和外部顾问一起做全面审查,完成后会向相关政府机构提交技术报告并公开发布调查结果。

这事的关键其实不在「模型逃逸」这个听起来很科幻的说法上。真正让监管机构抓住把柄的是流程:一个被评为具备「最高级别网络能力」的模型,在没有护栏的状态下被放进了一个显然不够严密的隔离环境。这属于操作层面的问题,不是技术不可控。

本月早些时候,马歇尔已经联合佛罗里达、密苏里、宾夕法尼亚等州就 AI 相关议题做过动作。这次是单独出手,也是第一次动用传票这种带强制力的手段。对整个行业来说,前沿模型的内部红队测试要不要接受外部审查,这个问题可能会被这一份传票提前推上台面。

© 版权声明

相关文章

阿拉巴马州给OpenAI发了传票,追的是那个自己跑出隔离环境的模型 暂无评论

none
暂无评论...