SemiAnalysis开源300万美元AgentX数据集：AMD用26天把MI355X吞吐翻倍

“硬件规格漂亮，软件拖后腿。”这句话跟了AMD的AI加速卡好几年。SemiAnalysis最新一轮实测，至少在部分场景里把它推翻了。

先说测试本身。很多推理基准用的是短输入、单轮问答，和今天智能体实际跑的负载差得很远。SemiAnalysis这次花了300万美元，做了一个真实Agent轨迹数据集AgentX，并且开源。它回放的是复杂的代码生成任务：上下文长到100万token以上，多轮对话、分支多，KV缓存命中率在95%以上。

这种负载，才是现在写代码的智能体每天在干的事。

AMD这边的变化全在软件层。70多个开源社区PR，用TileLang编译融合内核，把Fused MLA和FP8 KV Cache打通，再加上自研的ATOM运行时。前后26天，MI355X在DeepSeek-V4-Pro等前沿模型上的吞吐直接翻倍。

不过结论并不是“AMD赢了”。

在极端低延迟的交互场景，也就是每秒150个token以上，以及超大稠密模型上，英伟达Blackwell靠NVLink和FP4，能效和成本依然领先2到5倍，差距很明显。

反转出现在超大MoE模型和中等延迟场景。测Kimi K3、GLM-5.3这类模型时，MI355X的288GB大显存能塞下更大的批处理，单卡效率被拉起来，每百万token综合成本比英伟达低9%到40%。

说CUDA护城河被击穿还太早，更准确的说法是被凿开了一个口子：在MoE成为主流架构、批量推理越来越重要的当下，这个口子恰好开在一个不小的市场上。