高通卖进了亚马逊的数据中心,做的是推理这一端

AI资讯9分钟前发布 navarro
2.8K 0

9 月 8 日晚,高通和亚马逊宣布了一项 AI 基础设施合作:双方面向大型 AI 数据中心,规模化开发多代定制芯片,同时共同推进推理相关技术。

关键词是“多代”和“推理”。

先说多代。芯片合作里,一次性定制和多代承诺是完全不同的分量。前者可能只是试水,后者意味着买方愿意把路线图押上去——软件栈、机架设计、运维体系都要跟着这条线走,切换成本极高。亚马逊肯签多代,说明这不是备胎方案。

再说推理。训练市场目前基本没什么悬念,但推理是另一个战场:它对单卡峰值算力的敏感度远低于训练,更看重每瓦性能、每美元 token 数和内存带宽。高通几十年做移动芯片攒下的东西,恰好全在能效这一侧。

亚马逊自己有 Trainium 和 Inferentia,本来就是自研派。现在再拉一家进来,逻辑不难猜:推理需求涨得比训练快,自研产能吃不下,多一个供应商既是补产能也是压价筹码。

对使用方来说,这类新闻真正的意义要过一两年才看得出来——推理单位成本每降一档,原本算不过账的应用就会冒出来一批。前面 OpenRouter 那条 token 用量一年涨 25 倍的数据,讲的其实就是这个循环。

© 版权声明

相关文章

高通卖进了亚马逊的数据中心,做的是推理这一端 暂无评论

none
暂无评论...