大模型主流的生成方式是一个词一个词往外蹦,Inception 一直在押另一条路。
这家公司刚发布了走扩散路线的大语言模型 Mercury 3,生成速度超过每秒1000个 token。官方给出的基准成绩里,它在多项测试上超过了 GPT-6 Luna 和 Claude Haiku 5.5。
先说说扩散模型和普通大模型差在哪。
现在常见的语言模型属于自回归路线,每一步只预测下一个 token,前面的没生成完,后面的就得排队等着。扩散模型的思路是从一团粗糙的结果出发,一轮轮整体修正,很多位置可以并行处理。这套方法在图像生成领域早已是主流,搬到文本上,最大的卖点就是快。
Mercury 3 把这个卖点推到了每秒上千 token 的量级。对于写代码时的自动补全、实时对话、需要反复调用模型的 Agent 流程,延迟往往比单次回答的质量更影响体验,这样的速度很有吸引力。
规模也上了一个台阶。
新模型的参数量大约是 Mercury 1 的40倍,上下文窗口到了100万 token。这一点挺关键,过去扩散语言模型常被质疑只适合做小而快的模型,能力上限不高,Mercury 3 至少在纸面上回应了这个疑问。
价格也友好,输入每百万 token 0.2美元。除了 Inception 自己的 API,OpenRouter 等平台也已经上线,想试的开发者门槛不高。
跑分超过同档的轻量模型是一回事,真实业务里稳不稳定是另一回事。扩散路线能不能从速度优势走到通用能力上和自回归模型正面比拼,Mercury 3 会是一个不错的观察样本。
© 版权声明
文章版权归作者所有,未经允许请勿转载。





扩散语言模型Mercury 3发布,每秒能吐1000多个token