微软MAI Code 1.1 Flash:1370亿参数只激活68亿,GitHub Copilot月底能本地跑

AI资讯4分钟前发布 Irving
2K 0

GitHub Copilot要能在本机写代码了,至少一部分场景可以。

微软在 10 月 7 日的发布会上宣布,本月底前 GitHub Copilot 会加入本地模型支持。开发者可以手动在云端模型和设备端模型之间切换,也可以交给系统自动调度。

配套的是一个新模型 MAI Code 1.1 Flash,混合专家(MoE)架构,总参数 1370 亿,每次推理只激活 68 亿。微软说它叠加了量化和投机解码,用来压内存、提升端侧响应速度。长上下文吃内存一直是本地跑代码模型的老大难,这个模型就是冲着这个瓶颈去的。

首发硬件是搭载英伟达 RTX Spark 的新款 Surface Laptop Ultra,入口有三个:Copilot CLI、Copilot 应用和 VS Code。

我比较在意三点。

第一是名字。MAI 是微软自研模型的前缀,之前有语音、图像和通用文本模型,这回进了编程主战场。GitHub Copilot 长期主要用 OpenAI 和 Anthropic 的模型,本地这一端现在换成了自家的。

第二是体量。1370 亿总参数即使量化完也不小,所谓“本地跑”大概率意味着高端硬件,普通轻薄本未必带得动。微软目前只给了 Surface Laptop Ultra 一款首发机型,其他机器能不能用、要多大内存,还没公布。

第三是分工。比较合理的猜法是:补全、改一小段代码这类高频低难度请求走本地,省延迟也省云端额度;跨文件重构、读大仓库还是交给云端大模型。实际效果要等月底上手才知道。

对那些要求代码不出内网的团队,这个方向值得盯一下。

© 版权声明

相关文章

微软MAI Code 1.1 Flash:1370亿参数只激活68亿,GitHub Copilot月底能本地跑 暂无评论

none
暂无评论...