AnythingLLM Integrationsleitfaden

Uberblick

AnythingLLM behandelt UnoRouter als Generic OpenAI-Provider. Modell eintippen, Kontextfenster setzen, speichern.

Schnellkonfiguration

Diese Werte in den Client einfügen. Der Schlüssel wird bei angemeldeter Sitzung automatisch ausgefüllt.

Basis-URL: https://api.unorouter.com/v1
API-Schlüssel: YOUR_API_KEY

Kompatibilitat

Schritt-fur-Schritt-Einrichtung

1. 1
   LLM Preference öffnen

   In der Seitenleiste Settings öffnen, dann LLM Preference.

2. 2
   Generic OpenAI wählen

   Setzen Sie LLM Provider auf Generic OpenAI und füllen Sie das Formular aus. Max Tokens steht standardmäßig auf 1024 und begrenzt jede Antwort, also erhöhen Sie den Wert.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   Melde dich an, um deinen API-Key automatisch einzutragen

3. 3
   Speichern

   Speichern. AnythingLLM nutzt UnoRouter für Chat-Arbeitsbereiche.

Empfohlene Modelle

Kostenlose Modelle, die hier funktionieren. Beliebige Modell-ID in den Client einfügen.

Stolperfallen

• !Generic OpenAI ruft den Katalog ab, sobald Base URL und API Key gesetzt sind. Schlägt der Abruf fehl, wird das Feld zu einem Textfeld, dann geben Sie die Modell-ID manuell ein.
• !Embedding Preference ist ein eigener Reiter. Ihn auf einem funktionierenden Embedding-Provider belassen, sofern UnoRouter im gebuchten Tarif keine Embeddings bereitstellt.