Manifest | Der Open-Source-LLM-Router für OpenClaw

Was

Manifest ist ein Open-Source-LLM-Router für OpenClaw, der Anfragen abfängt und jede Abfrage an ein kostengünstigeres Modell sendet. Das Produkt ist darauf ausgerichtet, unnötige Modellausgaben zu reduzieren, indem es den Einsatz großer Modelle für einfache Aufgaben vermeidet.

Es scheint für OpenClaw-Benutzer konzipiert zu sein, die niedrigere Betriebskosten, mehr Kontrolle über die Routing-Funktion und bessere Privatsphäre durch die Verarbeitung von Abfragebewertungen auf ihrem eigenen Gerät wünschen. Der Kernworkflow ist einfach: Jede Anfrage lokal analysieren, sie an das am besten geeignete Modell weiterleiten und Telemetrie- und Kostendaten bereitstellen, damit Teams die Nutzung überwachen können.

Funktionen

• Lokale Abfrage-Weiterleitung: Manifest analysiert jede Abfrage lokal in weniger als 2ms und wählt das am besten geeignete Modell aus, was hilft, für einfache Anfragen nicht zu viel zu bezahlen.
• Kostenbewusste Modellauswahl: Der Router ist darauf ausgelegt, die Arbeit an das kostengünstigste Modell für eine bestimmte Aufgabe zu übertragen, was die OpenClaw-Nutzungskosten senkt.
• Architektur mit Datenschutz: Die Abfragebewertung erfolgt auf dem Gerät des Benutzers, und die Cloud-Version wird als blinder Proxy bezeichnet, der darauf abzielt, die Datenexposition zu begrenzen.
• Nachrichtenbasierte Kostenerfassung: Benutzer können die Kosten jeder Nachricht analysieren und Grenzwerte oder Warnungen festlegen, wenn Budgets überschritten werden.
• OpenTelemetry-basierte Telemetrie: Telemetrie wird gesammelt und im OpenTelemetry-Format exportiert, was die Datenhoheit und die Überwachungsworkflows unterstützt.
• Open-Source-OpenClaw-Plugin: Manifest ist vollständig Open Source und als natives OpenClaw-Plugin mit einer Kommando-Installation und ohne Codierung verfügbar.

Nützliche Tipps

• Überprüfen Sie die Weiterleitungsqualität, nicht nur die Einsparungen: Für Produkte wie dieses ist die Kostensenkung am nützlichsten, wenn sie mit akzeptabler Ausgabequalität bei verschiedenen Aufgabentypen verbunden ist.
• Definieren Sie Weiterleitungsrichtlinien nach Aufgabenkomplexität: Der größte Vorteil ergibt sich in der Regel aus der Trennung von leichten Aktionen von anspruchsvollen oder kontextabhängigen Arbeitslasten.
• Verwenden Sie Budgetwarnungen frühzeitig: Kostentransparenz ist wertvoller, wenn Teams Grenzwerte und Warnungen festlegen, bevor sie die Nutzung über Benutzer oder Agenten skalieren.
• Überprüfen Sie die Telemetrie-Besitzverhältnisse und Exportwege: Da die Telemetrie OpenTelemetry verwendet, sollten Käufer bestätigen, wie sie die operativen Daten speichern, verarbeiten und regeln möchten.
• Überprüfen Sie die Bedürfnisse für Selbsthosting und Erweiterungen: Da das Produkt Open Source ist, sollten Implementierungsteams bewerten, ob sie eine einfache Plugin-Installation oder eine benutzerdefinierte Weiterleitungs Ebene wünschen.

OpenClaw-Fähigkeiten

Innerhalb des OpenClaw-Ökosystems passt Manifest wahrscheinlich am besten als Weiterleitungs- und Kostengovernance-Ebene unter Agenten, Assistenten und mehrstufigen Workflows. Ein wahrscheinlicher Anwendungsfall ist die Kombination von Manifest mit OpenClaw-Fähigkeiten, die die Absicht klassifizieren, die Aufgabenkomplexität schätzen oder Anfragen nach Empfindlichkeit kennzeichnen, bevor sie an das am besten geeignete Modell weitergeleitet werden. Dies könnte Teams helfen, zu standardisieren, wie die Modellauswahl bei vielen Automatisierungen erfolgt, anstatt auf ein einzelnes Standardmodell zu vertrauen.

Ein weiterer wahrscheinlicher Anwendungsfall ist die Erstellung von OpenClaw-Agents für Finanzen, Betrieb, Support oder interne Wissensarbeit, die dynamisch Kosten, Latenz und Fähigkeiten abwägen. Beispielsweise könnte ein Workflow einfache Abruf-, Zusammenfassungs- oder Formatierungsanfragen an günstigere Modelle weiterleiten und stärkere Modelle für tiefere Überlegungen oder mehrdeutige Anfragen reservieren. Wenn dies gut umgesetzt wird, könnte diese Kombination die agentenbasierte Arbeit für Teams, die eine hohe Anzahl von LLM-Aufgaben ausführen, operativ nachhaltiger machen, obwohl die Seite diese erweiterten Orchestrierungsmuster nicht explizit als native Funktionen beschreibt.