Weave 开源模型路由 weave-os/router:50ms 内为每个请求匹配最优模型,成本直降 40-70%
# Weave 开源模型路由 weave-os/router:50ms 内为每个请求匹配最优模型,成本直降 40-70% **原文链接:https://github.com/weave-os/router** **来源:AnySearch 产品动态** Weave(自称排名第一的工程智能平台,客户包括 Robinho…
# Weave 开源模型路由 weave-os/router:50ms 内为每个请求匹配最优模型,成本直降 40-70% **原文链接:https://github.com/weave-os/router** **来源:AnySearch 产品动态** Weave(自称排名第一的工程智能平台,客户包括 Robinhood、PostHog、Reducto 等)开源了模型路由器 weave-os/router:一个面向智能体系统的模型路由层,号称能在 50 毫秒内把每个提示词路由到最合适的模型,仅改变一个接入端点即可节省 40% 到 70% 的成本。 ## 一个端点,覆盖所有模型 router 是一个可直接替换的代理服务,兼容 Anthropic、OpenAI 与 Gemini 的原生 API。你只需把 Claude Code、Codex、Cursor 或自研应用指向 localhost:8080,剩下的事情交给它。 它的核心主张是:不靠“感觉”或提示词来选模型,而是用一个小型本地嵌入模型(on-box embedder)做判断。 ## 主要特性 - **按动作路由**:基于 Avengers-Pro 1 的聚类打分器,从你已启用的供应商中为每一个上游 API 请求挑选合适的模型。官方文档 docs/SEMANTICS.md 特别强调:router 是按“动作(action)”路由,而不是按“轮次(turn)”路由。 - **兼容各家 API**:支持 Anthropic Messages、OpenAI Chat Completions、Gemini 原生接口,流式输出、工具调用、视觉能力一应俱全。 - **认识开源模型**:通过 OpenRouter(或任何 OpenAI 兼容端点)接入 DeepSeek、Kimi、GLM、Qwen、Llama、Mistral 等。 - **默认 BYOK**:供应商密钥留在你自己的机器上,静态加密存储。 - **可观测**:开箱即用的 OTLP 链路追踪,可在 Weave 仪表盘(http://localhost:8080/ui/dashboard)查看,也可接入 Honeycomb、Datadog、Grafana 等。 ## 30 秒快速开始 最快的方式是用一条命令,把 Claude Code、Codex、opencode 或 pi 指向托管的 Weave Router——无需克隆代码、无需 Docker、无需 Postgres: ``` npx @weave-os/router ``` 执行后浏览器会打开托管配置页。若想直接在终端安装,可显式指定目标: ``` npx @weave-os/router --claude # 跳过选择器,Claude Code npx @weave-os/router --codex # 跳过选择器,OpenAI Codex CLI npx @weave-os/router --opencode # 跳过选择器,opencode npx @weave-os/router --pi # 跳过选择器,pi + Loom UI npx @weave-os/router --scope project # 按仓库维度,写入 settings.json npx @weave-os/router --local # 自托管 localhost:8080 npx @weave-os/router --base-url https://router.acme.internal npx @weave-os/router --email you@example.com # 免交互设置身份 npx @weave-os/router --claude --return-url https://app.example.com/onboarding npx @weave-os/router@0.1.0 # 锁定版本 ``` 环境要求 Node ≥ 18(Claude Code、opencode 与 pi 路径还需要 jq)。完整参数说明见 install/npm/README.md。 npm 包名为 @weave-os/router;此前的 @workweave/router 作为兼容别名继续可用,并同步发布相同版本。 ## 或者:自托管整套服务 如果你希望路由器和仪表盘都跑在自己的机器上: ``` # 1. 填入供应商密钥,推荐以 OpenRouter 作为基线 echo "OPENROUTER_API_KEY=sk-or-v1-..." >> .env.local # 2. 设置仪表盘密码。若不设置,推理仍可运行, # 但仪表盘管理功能将被禁用 echo "ROUTER_ADMI…
https://www.fde.pub/news/768