Guida all'integrazione di AnythingLLM

Panoramica

AnythingLLM tratta UnoRouter come provider Generic OpenAI. Scrivi il modello, imposta la finestra di contesto, salva.

Configurazione rapida

Incolla questi valori nel client. La chiave si compila da sola quando hai effettuato l'accesso.

URL di base: https://api.unorouter.com/v1
Chiave API: YOUR_API_KEY

Compatibilità

Configurazione passo passo

1. 1
   Apri LLM Preference

   Apri Settings nella barra laterale, poi LLM Preference.

2. 2
   Scegli Generic OpenAI

   Imposta LLM Provider su Generic OpenAI e compila il modulo. Max Tokens vale 1024 per impostazione predefinita e limita ogni risposta, quindi alzalo.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   Accedi per compilare automaticamente la tua chiave API

3. 3
   Salva

   Salva. AnythingLLM usa UnoRouter per gli spazi di lavoro di chat.

Modelli consigliati

Modelli gratuiti che funzionano qui. Incolla un qualsiasi id di modello nel client.

Cose da sapere

• !Generic OpenAI recupera il catalogo non appena Base URL e API Key sono impostati. Se il recupero non riesce, il campo torna a essere una casella di testo, quindi digita manualmente l'id del modello.
• !Embedding Preference è una scheda separata. Lasciala su un provider di embedding funzionante a meno che UnoRouter non esponga embedding sul tuo piano.