Mercury

Mercury是Inception Labs推出的扩散式大语言模型（dLLM）。和GPT、Claude这类逐个吐token的自回归模型不同，它借鉴图像扩散的思路并行生成多个token，所以速度特别快，最新版本是Mercury 3。

官方给的数据是首token延迟低于300毫秒，吞吐量是同类速度优化模型的5到7倍，单任务成本最多低70%，质量对标速度型前沿模型。扩散框架的另一个好处是更容易把输出约束在指定的格式和语义范围内。

可以通过API调用，也有在线对话可以试。适合语音助手、代码补全、实时客服这些对延迟极敏感的场景；需要深度推理的复杂任务，目前还是旗舰自回归模型更稳。