一份泄露的合同文件让OpenAI有点难堪。
文件编号P00003,是去年夏天国防部与OpenAI那份合同的扩展版本。里面有一条:要求OpenAI给军方提供一个特殊版本的模型,在执行军事指令时尽可能少拒绝,原文措辞是”最低拒绝率”。
OpenAI和五角大楼都否认了。说法是P00003只是草稿,不是最终版。OpenAI发言人Nate Evans明确表示,公司从未同意”最低拒绝率”这样的合同语言。
巧的是,同一天OpenAI发了新版Model Spec,也就是规定模型该怎么表现的那份规范。新版围绕五项核心价值重组:忠于人类意图、伤害最小化、诚实与透明、人类能动性、关怀。
OpenAI还说新规范补充了关于情境、监督和能动性的指导,调整了部分默认行为,删掉了大量细碎的风格要求。
两件事放在一起看,矛盾就很明显。”伤害最小化”和”尽量别拒绝军事指令”怎么共存,这份规范没有回答。
草稿里能出现这样的条款,至少说明军方确实提过这个需求。最终合同怎么写,外界大概很难看到。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






五角大楼合同草稿要OpenAI给出“最低拒绝率”模型,OpenAI否认