20亿参数、1-bit：PrismML把大模型塞进了高通智能眼镜芯片

智能眼镜想做到“看见什么问什么”，一直卡在一个问题上：模型放云端，延迟高还费流量；放本地，眼镜那点算力和电池根本扛不住。

AI 实验室 PrismML 的解法是把模型压到极致。高通在 Snapdragon 峰会上现场演示了 PrismML 的 1-bit Bonsai 模型，本地跑在 Snapdragon AR1 Gen 1 平台上。

几个关键数字：

• 参数量 20 亿
• 权重 1-bit 量化
• 针对视觉和语言做过调优
• 完全本地运行，不走云端

1-bit 是什么概念？常见的端侧模型压到 4-bit、8-bit 已经算狠了，1-bit 相当于每个权重只剩“正或负”这么一点信息。好处是内存和功耗都能降一大截，代价是精度损失。所以它得专门冲着“眼前这是什么”“这行字什么意思”这类眼镜场景去调，别指望它写长文章。

AR1 Gen 1 是高通给轻量智能眼镜用的芯片，市面上不少带摄像头的 AI 眼镜用的就是这一代。它原本的活是拍照、录像、跑语音助手，端侧跑多模态模型算是往上够了一截。

PrismML 还没公布哪款眼镜会搭载这个模型，眼下它仍是峰会展台上的一场演示。

这个方向我挺看好。眼镜是最需要“断网也能用”的设备：地铁里、出国没信号、对着敏感文件的时候，本地模型都比云端更有用。剩下的问题是，20 亿参数加 1-bit 的模型，回答质量能不能过日常使用的及格线，这得等真机到手才知道。