RunInfra

RunInfra是YC孵化团队RightNow做的模型推理API，专门托管开源大模型，比如Kimi K3、DeepSeek V4.1 Flash、GLM-5.3这些。一个API Key同时兼容OpenAI和Anthropic两套SDK，原本写好的代码改个地址就能接。

它主打的是“缓存便宜”。智能体每一轮对话都会把大段上下文重新发一遍，RunInfra会把同一会话固定路由到同一个热副本上，官方说缓存命中率能到98%，缓存输入最低0.01美元/百万token，优化一直做到GPU内核层。

另外还推出了编程套餐，可以给Claude Code、opencode等20多种编程智能体当后端，Starter 10美元/月起，额度每5小时和每周重置。适合自己跑智能体、对token账单敏感的开发者。