宣言 | 开源LLM路由器用于OpenClaw

是什么

Manifest 是一个面向 OpenClaw 的开源 LLM 路由器，可拦截请求并将每个查询发送到更具成本适配性的模型。该产品的定位是通过避免将大型模型用于简单任务，来减少不必要的模型支出。

它显然是为希望降低运营成本、获得更高路由控制力，并通过在本地机器上完成查询评分来增强隐私性的 OpenClaw 用户而设计。其核心工作流程很直接：在本地分析每个请求，将其路由到最合适的模型，并提供遥测和成本数据，以便团队监控使用情况。

功能

• 本地查询路由：Manifest 在本地以低于 2 毫秒的速度分析每个查询，并选择最适合的模型，从而帮助避免为简单请求支付过高费用。
• 成本感知的模型选择：该路由器旨在将任务分配给针对特定任务最具成本效益的模型，从而支持降低 OpenClaw 使用成本。
• 注重隐私的架构：查询评分在用户机器上进行，而云版本被描述为盲代理，旨在限制数据暴露。
• 消息级成本跟踪：用户可以分析每条消息的成本，并在超出预算时设置限制或警报。
• 基于 OpenTelemetry 的遥测：遥测数据以 OpenTelemetry 格式采集和导出，支持数据所有权和可观测性工作流。
• 开源 OpenClaw 插件：Manifest 完全开源，并以原生 OpenClaw 插件形式提供，支持一条命令安装且无需编码。

实用建议

• 不要只验证节省效果，也要验证路由质量：对于这类产品，成本降低只有在不同任务类型下仍能保持可接受输出质量时才最有价值。
• 按任务复杂度定义路由策略：最大的收益通常来自将轻量级操作与高推理或高上下文负载的工作分开处理。
• 尽早使用预算警报：当团队在面向用户或代理大规模扩展使用之前先设置限制和警报时，成本可见性会更有价值。
• 审查遥测数据所有权和导出路径：由于遥测使用 OpenTelemetry，买方应确认希望如何存储、处理和治理这些运营数据。
• 检查自托管和扩展需求：由于该产品是开源的，实施团队应评估自己是需要简单的插件部署，还是更定制化的路由层。

OpenClaw 技能

在 OpenClaw 生态中，Manifest 很可能最适合作为位于代理、助手和多步骤工作流之下的路由与成本治理层。一个可能的用例是将 Manifest 与 OpenClaw 技能结合使用：这些技能可在将请求交给最合适的模型之前，先完成意图分类、任务复杂度评估，或按敏感性对请求打标签。这有助于团队在大量自动化场景中标准化模型选择方式，而不是依赖单一默认模型。

另一个可能的用例是为财务、运营、支持或内部知识工作构建 OpenClaw 代理，以动态权衡成本、延迟和能力。例如，工作流可以将简单的检索、摘要或格式化任务路由到低成本模型，同时将更强模型保留给更深层推理或含糊请求。如果实施得当，这种组合可使运行大量 LLM 任务的团队在运营上更具可持续性，尽管页面并未明确将这些高级编排模式描述为原生功能。