LiteLLM 和 OpenRouter：一个充 10 美元刷卡扣 10.80，一个今年 3 月在 PyPI 上被换了包

网上讲模型网关，常见的一句话是：OpenRouter 不加价，模型按官方原价卖，所以用它和直连没区别。

这句话只说对了 token 那一半。

token 单价确实是按各家供应商的标价直接转过来的。钱是在充值那一步收的：信用卡充值收 5.5% 手续费，单笔最低 0.80 美元。充 10 美元，5.5% 本来是 0.55，被最低额抬到 0.80，刷卡扣的是 10.80 美元，等于 8% 的费率。小额多次充值的人，实际费率比宣传页上那个数字高得多。用加密货币充值是固定 5%，不设最低额。

另一边的 LiteLLM 是开源的，代码自己部署，网关本身不收钱。这周它刚把 /v1/messages 接口用 Rust 重写，又上了按客户统计推理花费的门户测试版。看起来一个收过路费、一个免费，选择很简单。

实际用下来不是这样算的。

一张表先对齐口径

	OpenRouter	LiteLLM
形态	托管服务，一个 Key 调所有模型	开源代码，自己部署的代理
网关费用	充值收 5.5%（最低 0.80 美元），加密货币 5%	开源版免费；企业版第三方转述约每月 250 美元起
上游账号	不需要，也可以挂自己的 Key（BYOK）	必须自己去各家开账号、拿 Key
免费模型	每分钟 20 次；累计充值不满 10 美元每天 50 次，满了每天 1000 次	无，取决于你接的上游
要自己维护的	几乎没有	代理进程，外加存 Key 和预算的数据库、多实例限流用的缓存

免费模型那一行有个容易忽略的地方。10 美元门槛按累计充值算，不看当前余额：充过一次 10 美元，花光了，每天 1000 次的额度也一直保留。如果你只是想白嫖带 :free 后缀的模型做测试，最省的做法就是一次性充 10 美元，别分两次充 5 美元，后者手续费要交两遍最低额。

同一个模型名，后面换了供应商

OpenRouter 社区里被吐槽最多的，不是手续费。

是同一个模型名，今天和昨天回答质量不一样。原因在它的路由机制：一个开源模型往往有好几家推理商在托管，有的跑原精度，有的跑 FP8 甚至更低的量化版本，OpenRouter 默认会按价格和可用性在它们之间切。你在请求里写的是同一个模型，实际接单的可能换了一家，输出也跟着变了。

解决办法是有的：请求里可以用 provider 参数指定或排除推理商，按量化精度过滤，也能要求只走不留存数据的供应商。但这些开关默认不开，大部分人第一次遇到格式突然出错、工具调用变笨，根本想不到是供应商换了。

LiteLLM 没有这个问题。你接的是哪家的 Key，请求就只会发到哪家，路由规则全是你自己写的。

代价是另一笔账。

自己架网关，账单换成了运维

LiteLLM 只当一个 Python 库用的时候很轻，统一一下各家接口格式而已。要用上它真正值钱的功能，比如给每个同事发虚拟 Key、按项目设预算、超额自动拦截，就得跑它的代理服务，再配一个数据库存 Key 和花费记录；多开几个实例做负载，限流计数还得放进共享缓存。

几个月后你会发现，网关本身没花钱，花的是有人要盯着它。

性能也是绕不开的话题。官方给的数字是本机部署时每个请求增加的延迟通常在 10 毫秒以内；而竞品发的压测说每秒 500 个请求以上时尾延迟会明显变差。后者是竞争对手写的，我不全信，但 Python 写的代理在高并发下吃亏是事实，这周先重写最热的 messages 接口，也说明项目方自己清楚。

每秒几十个请求的团队，这根本不是问题。

3 月 24 日那三个小时

自己部署还有一层风险，是很多人选型时没算进去的：你装进来的那个包本身。

2026 年 3 月 24 日，LiteLLM 在 PyPI 上的 1.82.7 和 1.82.8 两个版本被换成了带后门的包，世界时 10 点 39 分和 10 点 52 分先后发布。攻击者先攻破了它 CI 流程里用的安全扫描工具 Trivy，从那里拿到了发布凭证。1.82.8 更狠，塞了一个 .pth 文件，只要 Python 启动就会执行，根本不需要 import litellm。两个版本在线大约三个小时后被隔离，最后一个干净版本是 1.82.6。

网关这种东西，手里攥着你所有模型供应商的 Key。它被投毒，泄露的就不是一家的额度。

事后 LiteLLM 轮换了维护者账号，开始公开每个版本的校验值。这算补救到位，但它提醒的是：自托管不等于更安全，它只是把信任从一家托管商，挪到了你的依赖链上。版本锁定、核对校验值、别在生产环境开自动升级，这几件事做不到的话，托管服务反而更稳。