ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Claude Code Router:把模型路由、降级与 Key 轮换收进一个本地网关的完整指南

Claude Code Router:把模型路由、降级与 Key 轮换收进一个本地网关的完整指南 Claude Code Router把模型路由、降级与 Key 轮换收进一个本地网关的完整指南【免费下载链接】claude-code-routerOne local control plane for every AI agent: route across models, fuse new capabilities, orchestrate tools, and stay fully in control.项目地址: https://gitcode.com/GitHub_Trending/cl/claude-code-routerClaude Code Router 是一个本地模型网关与路由控制面按策略把 Claude Code、Codex 等 AI 客户端的请求路由到不同上游模型。卡点还原没有这一层工作流会卡在哪团队用 Claude Code 写代码用 Codex 跑批处理。换一次模型要逐个客户端改环境变量总有漏掉的。OpenRouter 单 Key 在高峰触发限流批处理任务整条队列堵死。哪把 Key 在哪台机器上没人记得清。月底对账时说不清哪个模型消耗了哪些 token。便宜模型和贵模型花出去的钱混在一笔账单里。这些卡点指向同一个解法在客户端和模型之间加一层本地路由网关。链路速览一次请求如何穿过 Claude Code Router客户端只连本机网关的 3456 端口。请求在网关内部依次经过协议识别、路由规则解析、目标模型改写、上游供应商转发再原路返回响应。途中网关承担四件事路由解析、失败重试与降级、凭据选择、请求日志。最小可行链路能跑起来的最短路径npm CLI 要求 Node.js 22 或更高版本先确认环境。node -v全局安装 CLI 并启动管理界面。npm install -g musistudio/claude-code-router ccr ui端口有讲究CLI 模式下 3458 是管理界面端口3456 才是模型网关端口客户端要配后者。在供应商页面选择 OpenRouter 预设填写以sk-or-v1-开头的 API 密钥勾选要暴露的模型。再到 API 密钥页面创建客户端 Key这两类 Key 别混淆。发一个健康检查请求验证网关。curl http://127.0.0.1:3456/health返回 200 说明网关在运行。再向兼容路径发一个最小模型请求到日志页面确认请求模型、最终供应商与模型、状态码和耗时都如实记录。源码部署可克隆 仓库 后在根目录执行docker compose up -d --build构建启动。两种方式的环境差异见安装指南。核心能力拆解网关自己接住三件事路由规则不同任务走不同模型解决的是所有请求都打同一个模型又贵又慢的问题。规则在路由页维护按列表顺序匹配第一条命中的启用规则生效。一条规则由条件、改写、失败处理三部分组成。条件可取request.header或request.body配合、starts with、contains deep等操作符。最常用的一行改写是把request.body.model设为「供应商/模型」选择器。普通条件不够用时规则类型可切换为 Node.js 脚本读取完整请求做动态决策。模型页面给每个模型填写 Description 后CCR 会把这些说明注入 Claude Code 的 Agent / Task 工具说明。客户端派生子代理时自行选模并携带标签派生请求据此路由到对应模型。典型效果批量摘要、日志整理类请求命中规则改写到便宜模型交互编码保持旗舰模型。脚本规则的完整示例见路由文档。失败降级主模型挂了怎么办解决的是一个限流或宕机整条链路停摆的问题。每条规则和页面级默认失败处理都有三种模式off只打当前模型失败即报错retry同模型重试retryCount次适合偶发抖动model-chain在当前模型失败后按顺序尝试备用模型。规则级配置会覆盖全局默认。典型的生产配置是一条模型链旗舰模型 → 备用模型主模型限流或宕机时自动切换不再阻塞开发。凭据池多把 Key 怎么轮解决的是多把上游 Key用哪把、怎么分、何时歇的问题。在供应商高级设置里展开凭据池。每条 Key 可设名称、启用开关、优先级数字越小越优先、权重以及本地限额 JSON用rpm/tpm等字段限制每分钟请求数和 token 数。{ rpm: 60, tpm: 100000 }达到窗口上限的 Key 会被自动跳过转而尝试同供应商的其他 Key。注意区分池里的 Key 发给上游API 密钥页面的客户端 Key 用于访问 CCR 本身。典型用法OpenRouter 余额分散在几个账号时按权重和本地限额轮换避免某一把 Key 提前触发上游风控。踩坑速查Claude Code Router 高频问题现象先查什么/health返回 502尚未配置任何供应商或模型属预期行为补全供应商后再试上游 401 / 403供应商 Key 是否与 API 地址匹配客户端是否误把上游 Key 当成 CCR 客户端 Keymodel not found模型名在供应商模型列表、路由选中、Agent 配置三处逐一比对一致性路由命中错误模型日志里对比请求模型与最终供应商 / 模型规则按列表顺序先命中先生效管理界面能开但请求不通管理端口 3458 可用不等于网关 3456 可用确认服务页面状态为运行中某把 Key 频繁被跳过凭据池限额 rpm / tpm 是否过紧或该 Key 在上游已被限流更多症状与排查步骤见常见问题。运营节奏上线之后让系统自己转每周翻一次请求日志找出实际高频命中的模型组合给稳定走旗舰模型但任务并不需要的请求补一条改写规则。每月用连通性检测验证模型链上每个备用模型可用避免降级时才发现备胎是空的。持续账号面板刷新供应商余额与用量成本按模型和凭据归因对账时不再靠猜。模型选择从人肉记忆变成规则驱动成本从月底猜变成可查的账单。【免费下载链接】claude-code-routerOne local control plane for every AI agent: route across models, fuse new capabilities, orchestrate tools, and stay fully in control.项目地址: https://gitcode.com/GitHub_Trending/cl/claude-code-router创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表