英伟达的本地 AI 两件套:N1X 设备 10 月出货,PAIR 路由器开源

AI资讯26分钟前发布 quillon
1.3K 0

英伟达这两天连着放了两个跟「本地 AI」有关的东西,一硬一软。

硬的是 RTX Spark 设备,10 月开始出货,核心卖点是 N1X 芯片。为了能在本地跑模型,这颗芯片支持最高 128GB 统一内存,搭载的 Blackwell GPU 算力峰值到每秒千万亿次浮点运算。

N1X 分两个版本,差异主要在内存规格。满血版是 6144 个 CUDA 核心的 Blackwell GPU 加 20 核 Grace CPU,支持 24GB 到 128GB 统一内存,用在超高端笔记本和桌面紧凑型主机上。另一个规格 GPU 核心降到 5120 个、CPU 核心降到 18 个,内存只支持 24GB 到 32GB。

128GB 统一内存这条是关键。这个容量意味着中等规模的开源模型可以整个装进去,不用在显存和内存之间来回搬,本地推理的体验会和以前完全不是一回事。

软的那件叫 PAIR,个人 AI 路由器,开源发布。用途是让家里的多台电脑协同跑本地 AI,把散在各个设备上的算力当成一个池子用。

两件事凑在一起,方向就很清楚了。云端推理的账现在不好算,本地跑得起来的活儿越来越多,英伟达显然不想在这块只卖卡。先给一台够猛的机器,再给一套把家里设备串起来的软件,本地 AI 这条线它想自己端到端占住。

© 版权声明

相关文章

英伟达的本地 AI 两件套:N1X 设备 10 月出货,PAIR 路由器开源 暂无评论

none
暂无评论...