亚马逊开源TorchNeuron,PyTorch代码改个配置就上自研芯片

AI资讯26分钟前发布 Blythe
3K 0

AI 芯片的较量,越来越多发生在软件层面。

亚马逊推出了一个叫 TorchNeuron 的开源工具,让开发者用 PyTorch 写的 AI 代码不用重写,就能直接放到亚马逊自研的 Trainium 芯片上运行。亚马逊芯片设计部门的说法是,开发者只需要改一项配置,同一份代码就能切过去。

这一刀砍向的是英伟达最坚固的那道墙。

很多人以为英伟达的护城河是芯片本身,其实更难撼动的是 CUDA。十几年下来,大量 AI 框架、算子库和开发者习惯都是围绕 CUDA 长出来的,市面上海量的 PyTorch 代码默认就跑在英伟达的卡上。别家芯片就算算力参数不差,开发者一想到要改代码、调兼容、重新排查性能问题,往往就打了退堂鼓。

迁移成本,才是阻挡客户换芯片的真正门槛。

TorchNeuron 想解决的正是这个。如果真能做到改一项配置就搬家,Trainium 对开发者的吸引力会大很多。对亚马逊来说,它本身就是云服务商,自研芯片用得越多,越能少受英伟达供货和定价的牵制,云上 AI 算力的成本也更好控制。

选择开源也有讲究。工具开源,开发者愿意试、愿意提问题和贡献代码,生态才能慢慢攒起来。只靠一家公司闭门打磨,很难追上 CUDA 积累了这么多年的社区。

不过,能跑起来和跑得好之间还隔着不少距离。代码不报错地迁移过去只是第一步,性能能不能接近在英伟达卡上的表现,复杂模型和自定义算子能不能顺利支持,都要看开发者实际用下来的反馈。

© 版权声明

相关文章

亚马逊开源TorchNeuron,PyTorch代码改个配置就上自研芯片 暂无评论

none
暂无评论...