微软AI负责人苏莱曼:别拿中国当反监管的挡箭牌,也别给AI谈权利

AI资讯13分钟前发布 Irving
1.3K 0

两个话题,同一个人,立场都没留余地。

第一个是监管。微软AI业务负责人穆斯塔法·苏莱曼在一档节目里说,对中国AI进展的担忧,不应该拿来当反对给这项技术设护栏的理由。用他的话讲,不能把中国当成不推进自身AI安全工作的借口。

这句话在美国语境里是有所指的。过去一段时间,“中国在追赶”几乎成了反对监管的万能论据,谁提安全约束,就会被反问一句那中国怎么办。

他领导的微软AI团队上周二发了一份宣言,给自家的AI开发立规矩,目标是让人类始终掌控公司未来开发的系统。按他的说法,开发者应该给模型设定目标,而这些目标要受人文主义准则约束,全行业都该这样给模型画出明确的安全护栏。

第二个话题火药味更重。他公开批评了Anthropic的“Claude宪法”,这是Anthropic为Claude塑造模型“性格”的依据。Anthropic内部认为AI可能具备某种功能意义上的情绪,并训练模型用这些范畴来理解自己。

苏莱曼认为这会形成一个自我强化的循环:先假设模型有情绪,再照着假设训练,模型表现出相应行为后,开发者又把它当成假设成立的证据。

在他看来,给AI谈权利,只会让这项技术更容易失控。

他对风险的描述也不轻。AI对人类的威胁是真实的,需要尽快建立一套“遏制”AI智能体的体系,否则会冒出一个“新的硅基物种”,和人类争夺资源。

两段话放在一起,逻辑其实是通的:既然AI只是工具,就该被牢牢管住;既然风险是真的,就不该拿地缘竞争当拖延的理由。至于Anthropic那条路线是否真在制造自证循环,这场争论恐怕还要持续很久。

© 版权声明

相关文章

微软AI负责人苏莱曼:别拿中国当反监管的挡箭牌,也别给AI谈权利 暂无评论

none
暂无评论...