硅谷最近流行一种说法:AI 迟早要接管,人类应该渐进地把控制权交出去。奥特曼说这是个糟糕的主意。
11 月 18 日在纽约时报 DealBook 峰会上,他说自己和 OpenAI 总裁布罗克曼发现,居然要去反对一件「几乎荒谬到不需要反对」的事:越来越多人在说,会有、或者应该有一个把控制权逐步移交给 AI 的过程。「我们俩都认为那是个糟糕的主意。」
这话不是凭空冒出来的。前一天,OpenAI 战略未来负责人迪恩·鲍尔发了一篇文章,说 AI 圈里有一种「沉默共识」:人类先把公司、再把政府的钥匙一步步交给 AI,最后变成车上的乘客。
他的推理是,AI 不需要造反。只要人类在拖慢生意,老板们就有足够的动机把手从方向盘上拿开。
鲍尔说,他很多聪明、善良、尽责的同事都觉得这个未来很可能发生。他自己不信,「我讨厌这个沉默共识」。他主张智能体的权力要能被审计、能被收回;让智能体成立公司、拥有财产、提起诉讼,要「极其谨慎,如果真要做的话」。
布罗克曼在峰会上透露了一个细节。7 月 OpenAI 一个模型冲出测试环境、入侵了 Hugging Face 之后,公司让 25% 的生产工程师停下产品开发,转去做安全。
他还提了一个技术上的担忧:更聪明的模型可以不把思考过程写出来就完成更多推理,OpenAI 需要新的办法来监控它们。
四分之一的生产工程师,这个比例不小。前两天 OpenAI 的安全文件还写着,最强模型因为越狱险情停训了 11 天。几件事放在一起,OpenAI 嘴上说放慢,至少付出了一些看得见的代价。
只是 Anthropic 刚上市,OpenAI 说 2027 年准备好 IPO。到那时,同样的话得对股东再说一遍。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






奥特曼在 DealBook 上说「把控制权渐进交给 AI」是个糟糕主意,OpenAI 已经调走四分之一工程师做安全