Xrouter 是一个开源的推理路由系统，专为 OpenClaw 与各类大语言模型（LLM）服务商之间提供智能流量调度。它通过一个快速且感知硬件环境的分类器，自动将每个请求路由到最经济高效、能胜任任务的模型上。该项目采用 MIT 许可协议，强调轻量化和可定制性。其核心设计围绕一个兼容 OpenAI 协议的逆向代理接口展开，使得任何支持 OpenAI 格式的客户端都能无缝接入。Xrouter 不仅支持本地部署，还能灵活对接云端主流 LLM 服务，实现成本与性能的动态平衡。无论是个人开发者还是企业用户，都可以通过简单的配置快速搭建起属于自己的智能推理网关。
核心功能特点
- OpenAI 兼容的反向代理接口，支持 POST /v1/chat/completions 标准调用
- 三级硬件感知分类器（0=廉价, 1=中等, 2=前沿），具备流式早期截断能力
- 交互式终端向导，自动检测硬件并推荐本地推理引擎
- 缓存层支持 Redis 或内存 LRU 回退机制
- 完整的令牌追踪仪表板，实时查看各层级资源消耗情况
- 多提供商适配，支持 OpenAI、Anthropic、Gemini、Cohere 等多种后端
适用场景
Xrouter 特别适合希望在控制成本的同时保持高性能的场景。对于拥有 NVIDIA GPU 或 Apple Silicon 设备的用户，可以结合 Ollama、vLLM 或 MLX 等本地推理框架，利用 Xrouter 的分类能力优先使用本地低成本模型处理简单任务，复杂请求则自动转发至云端前沿模型。这种混合架构显著降低了 API 调用费用，尤其适合高频次、小批量文本生成场景。此外，对于需要统一接入多种 LLM 服务商的企业级应用，Xrouter 提供了一个集中管理入口，避免为不同提供商重复开发适配逻辑。其内置的缓存和令牌监控功能也便于运维团队优化资源分配与预算控制。无论是构建内部 AI 工具链，还是开发面向公众的聊天机器人服务，Xrouter 都能帮助用户在效率与经济性之间找到最佳平衡点。