说实话,搞AI开发这么久,最烦的不是写代码,是管token
GPT的key在哪?Claude还剩多少额度?Gemini限流了没?DeepSeek免费额度用完了吗?
每个问题都让人血压飙升
最崩溃的一次——凌晨三点跑任务,Claude突然429,任务直接断在中间。第二天顶着黑眼圈手动重跑 ![]()
然后我就干了件狠事 ![]()
花了几个月,自己写了个平台。不是什么大厂出品、不是什么商业化SaaS,就是我自己的「AI邪修工具箱」—— LLMRouter ![]()
它能干啥?
简单说:一个接口,接管所有AI模型。
你把GPT、Claude、Gemini、智谱、通义千问……所有厂商的key扔进去,然后你的代码、客户端、ChatGPT、Claude Code 全都只连它一个地址。
剩下的它自己办 ![]()
哪个模型崩了?自动切下一个
token用完了?自动换,任务不断
想用最好的?传model="auto"自动选
密钥AES-256加密存你电脑上
最离谱的是部署方式 ![]()
做个开发工具的都知道部署多烦。环境、依赖、构建、启动……新手直接劝退。
所以我搞了个邪修操作——直接用桌面Agent装:
打开ChatGPT/WorkBuddy/Cursor/Kimi Work,一句话: 「帮我把 https://github.com/kevinlee4716/LLMRouter 在本地安装部署」
Agent自己clone、装依赖、构建、启动。你喝杯咖啡等三分钟,完事。
说点实在的 ![]()
装了之后每天切模型的时间直接归零
密钥AES-256存本地,心态稳得很
开源MIT协议,不收费不限流不偷数据
适合谁 ![]()
同时用3个以上AI厂商的程序员
Claude Code限流限到怀疑人生的
做过「把key传到GitHub然后收到警告邮件」这种蠢事的(就是我)
想要自由度、不想被AI厂商绑定的独狼
我不是什么大V,就是个被token折磨够了、自己动手写了个工具的程序员。
如果你也被同样的问题搞烦了,来看看 ![]()
llmrouter.kevinlee.bond
GitHub - kevinlee4716/LLMRouter: Self-hosted LLM API gateway — unify multiple AI providers behind one OpenAI-compatible API · GitHub
开源免费,点个Star支持一下野生开发者 ![]()