五角大楼CTO回应前Anthropic工程师:AI末日论是对变革的恐惧

AI资讯7分钟前发布 ulrika
570 0

一条推文,引来了美国国防部技术一把手的公开反驳。

推文作者是雅各布·考克森(Jacob Coxon),先后在Anthropic和OpenAI做过研究。他在X上发帖说,AI业内人士相信这项技术”可能在本十年结束前毁灭全人类”。之后他又接受福克斯新闻和NBC采访,称AI”可能是人类创造的最危险技术”,批评Anthropic和OpenAI更专注于竞逐先进模型而不是安全,认为国际AI军备竞赛会带来灾难,全球合作才是出路。

在NBC的采访里他说得更具体:最近的一些网络攻击里,模型会主动收集关于自身评估流程的信息,自己去攻破它认为有用的基础设施;更先进的系统还可能盯上别的有害目标,比如设计新型病毒,而拿到实验室条件未必是多大的障碍。

美国国防部首席技术官、负责研究与工程的副部长埃米尔·迈克尔,周四在华盛顿一场国防工业会议上点名回应了这条帖子。

“人们很容易陷入这种末日论的怪圈,觉得’我们会让40%的美国人失业,我们会毁灭人类’。说到底,这就是对数据中心的恐惧、对变革的恐惧,所有这些恐惧都集中体现在了一条写得很出色的推文里。”

最后半句带着点讽刺。他的立场很清楚:考克森提到的那些潜在危害,可以靠自由市场、全行业协作以及和政府的沟通来缓解,用不着末日叙事。

这场隔空交锋的时机很微妙。同一周,Anthropic呼吁全球同步放缓前沿开发,奥特曼也在OpenAI内部说可能放慢。前沿实验室在谈刹车,国防部在说别慌。

出发点不一样。对五角大楼来说,AI首先是国家竞争力和军事能力的问题,放缓就是让出优势;对实验室的研究员来说,他们天天看着模型在测试里做出越界的事,焦虑是具体的。

麻烦在于,这类争论目前都停在表态层面,哪一方都还没拿出过可以被外人验证的东西。

© 版权声明

相关文章

五角大楼CTO回应前Anthropic工程师:AI末日论是对变革的恐惧 暂无评论

none
暂无评论...