大模型很会写长答案,但很多业务真正需要的只是一个“是”或“否”。
谷歌 11 月 11 日推出 Gemini Decisions API,背后是一个专门的新模型 Gemini Decision 1。它不负责写文章,只负责做封闭式判断:是非题、选择题、打分题。
用法是这样:你上传一份材料,可以是文本、图片、音频、视频或 PDF,最长 256K token,然后最多抛出 1000 个互相独立的问题。模型只跑一次前向计算,就给每个选项打出概率和置信度。
以前做同样的事,要么拆成几百次调用,要么让大模型写一段话再从里面解析答案。现在一次搞定,端到端延迟大约 150 到 250 毫秒。
价格是它最狠的地方:输入每百万 token 0.10 美元,输出 token 不收钱。谷歌说比用 Gemini 3.5 Flash-Lite 拼出来的方案便宜近 5 倍。现在已经在 Google AI Studio 上线,有免费额度可以试。网关工具 LiteLLM 也已经通过 /v1/decisions 接口支持它了。
适合的场景:智能体该调哪个工具、一段对话有没有违反政策、请求该路由给哪个模型、检索回来的上下文质量够不够。也可以把一段客服录音和账户信息一起喂进去,一口气核对十几项。
它的局限也很明显,开放式问题它不管。但在智能体流水线里,大量节点本来就是判断题。把这些节点从昂贵的大模型上拆出来,账单能省一大截。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






谷歌出了个只做选择题的模型:Gemini Decision 1 一次判 1000 道题,百万 token 只要 0.1 美元