接大模型的人,迟早会被一件事烦到:今天用 Claude、明天试 Gemini、后天想蹭一下某个免费额度,每家端点和 Key 格式都不一样,配置散在五六个工具里。再叠加各家限流和费用,光是「哪个供应商现在还有额度」就够算一阵。OmniRoute 想当这个统一闸口:一个端点,背后接 359 家模型供应商,你要做的就是把原来的 base_url 指过来。

是什么
OmniRoute 是一个免费开源的 AI 网关,作者 diegosouzapw,MIT 协议,TypeScript 编写。仓库当前 70,186 个 Star、9,971 个 Fork,最新版本 v3.8.50,9 月 25 日还在提交。它对外暴露一个 OpenAI 兼容的端点,背后同时挂着 359 家供应商(其中 150 多家有免费额度)、1,200 多个模型,Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 都在内。
它能直接对上 Claude Code、Codex、Cursor、OpenCode、Cline 和 Copilot 这些编程工具——你不用改业务代码,把客户端的 base_url 换成 OmniRoute 的地址、带一个 Key 就行。剩下来的「选哪家、额度怎么分、挂了怎么退」全归它管。

OmniRoute 的仓库首页。MIT 协议、TypeScript 主仓,最近一次提交就在今天
它到底好用在哪儿
第一是零配置开箱。README 里那句「装上的那一刻就能用,不用 Key、不用配置」不是吹的——它把几百家供应商的端点和鉴权细节都收进内置目录了,你指过来就自动路由。对不想在五六个配置文件里来回翻的人,光这一条就值回票价。
第二是配额感知的自动退避。某家额度用尽或报错时,它会按配额情况自动切到下一家,而不是傻等超时。这点对长时间跑批、又想蹭免费额度的场景特别实在——你不用自己写重试逻辑。
第三是压缩省 token。它叠了 RTK 加 Caveman 两套压缩,官方说法是能省 15% 到 95% 的 token,平均约 89%。配合按应用单独接管,等于在客户端和供应商之间塞了一层会自己省钱的网关。对天天烧 token 跑 Agent 的人来说,这笔账算得过来。

v3.8.50 的发布记录。这一版把供应商从 290 拉到 357,还加了多模态桥接
怎么用
能跑的地方很多:Docker 镜像 diegosouzapw/omniroute 起一个、桌面端 Electron、浏览器里的 PWA,甚至纯本地都行。npm 上也有 omniroute 包。装好之后,你的编程工具那边把 API base 指到它暴露的地址,带一个本地生成的 Key 即可。
它还有完整的 CLI、MCP 和 A2A 接口,能当 Agent 之间的路由中枢用。v3.8.50 这版新加了视觉、音频、视频的多模态桥接,以及一份可一键开启的免费额度雷达目录和实时配额遥测——在仪表盘上能看见各家还剩多少。
有意思的是它的「免费额度账本」:把各家免费层加起来,它算出的稳态数字大约是每月 16.2 亿免费 token。这个数字不是拍脑袋,是按 35 个可复用额度池去重后算出来的,并且每两周跟实时目录复算一次——涨了跌了都照实公布,没往高了凑。
不足也得说清楚
未关闭的 Issue 有 532 个,体量不小。项目创建于 2026 年 2 月,七个月冲到 7 万 Star,增长曲线很陡,这是把双刃剑:一边说明需求真实,另一边意味着它还在早期狂奔,API 和目录结构随时可能动。
「16.2 亿免费 token」看着诱人,但前提是你能把几十家免费层手动叠起来用,而且其中一部分(比如 ModelScope)还要过地区身份校验才放开。它把这部分单独列出来、不并进取总数,态度是诚实的,但对普通用户来说,真要把这池子用满,学习成本不低。
另外它终究是个网关层。你只用一个供应商、调用量也小,那直接连原厂最简单,套一层 OmniRoute 反而是多余。压缩省 token 是真,但 RTK / Caveman 这类压缩对长上下文推理任务的输出质量有没有隐性影响,得看你自己场景的实测。
跟同类怎么比
同类里最直接的对照是 one-api、LiteLLM 这类自建网关。它们解决的是「统一分发和计费」问题,能力更重,但要自己部署、自己维护实例,面向团队和批量。OmniRoute 的区别是它对个人开发者更友好:零配置、原生叠了免费额度目录和压缩,单机就能跑。
另一类是各家模型厂自己的统一入口,比如 OpenRouter。OpenRouter 供应商也很全、体验稳,但它是商业服务、走用量计费。OmniRoute 是 MIT 开源、可以完全自己托管的那个选项——你信不过把流量交给第三方,就自己起一个。
我的判断:它最适合「同时想试多家、又想蹭免费额度、还不想写一堆重试和路由代码」的开发者。7 万 Star、几百号贡献者、版本几乎每天在动,这个活跃度在开源网关里不多见。但鉴于它才半岁出头,生产环境用之前,建议先在小流量上跑稳再上量。
GitHub:https://github.com/diegosouzapw/OmniRoute
官方网站:https://omniroute.online
标签:#OmniRoute #AI编程工具 #AI网关 #模型路由 #免费额度 #ClaudeCode #开源工具
你现在接大模型,是直连原厂还是已经套了一层网关?最让你头疼的是限流、费用,还是换来换去要改配置?