Grok 4.8 预训练做完了,马斯克说推理栈用 C/C++ 从零重写了一遍

AI资讯11分钟前发布 Varney
934 0

马斯克更新了 Grok 4.8 的进度:预训练已经做完,现在进入强化学习阶段,评测分数开始往上走。本周晚些时候会先向 Bot 用户灰度放出。

这次耽搁得比预期久,他给的原因是把底层整个换了。xAI 弃用了 JAX 和 SGLang,用 C/C++ 从零重写了强化学习和推理这一整套栈。

JAX 是谷歌系的数值计算框架,SGLang 是开源圈常用的大模型推理引擎。大多数团队会在这些现成组件上做优化,完全抛开、用 C/C++ 重写一遍是很重的工程决定。好处是每一层都能按自家硬件和模型结构去抠性能,代价是时间,还有一段时间里什么毛病都得自己修。

马斯克对新模型的评价罕见地克制。他说 4.8 和 4.7 几乎没有相似之处,目前“还不算惊艳”,但基础打对了。

这话可以两头听。乐观的读法是,推倒重来的东西刚跑通,分数还在爬坡,后面有空间。保守的读法是,其他几家这两周密集发了新旗舰,Grok 4.8 灰度出来的时候如果只是“不算惊艳”,在榜单上的位置不会好看。

至于为什么选在这个时候换底座,他没细说。一个合理的推测是成本。xAI 的用户量上来之后,推理开销是按天烧的,自研推理栈哪怕只省下一两成算力,放到它那个规模的集群上也是很大一笔钱。

灰度先给 Bot 用户,也就是 Grok Bot 套餐的订阅者。普通用户什么时候能用上,还没有时间表。

© 版权声明

相关文章

Grok 4.8 预训练做完了,马斯克说推理栈用 C/C++ 从零重写了一遍 暂无评论

none
暂无评论...