Guía de integración de AnythingLLM

Visión general

AnythingLLM trata UnoRouter como un proveedor Generic OpenAI. Escribe el modelo, define la ventana de contexto y guarda.

Configuración rápida

Pega estos valores en el cliente. Tu clave se rellena sola si has iniciado sesión.

URL base: https://api.unorouter.com/v1
Clave API: YOUR_API_KEY

Compatibilidad

Configuración paso a paso

1. 1
   Abre LLM Preference

   Abre Settings en la barra lateral y luego LLM Preference.

2. 2
   Elige Generic OpenAI

   Pon LLM Provider en Generic OpenAI y rellena el formulario. Max Tokens vale 1024 por defecto y limita cada respuesta, así que auméntalo.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   Inicia sesión para autocompletar tu clave API

3. 3
   Guarda

   Guarda. AnythingLLM usa UnoRouter para los espacios de trabajo de chat.

Modelos recomendados

Modelos gratuitos que funcionan aquí. Pega cualquier id de modelo en el cliente.

Aspectos a tener en cuenta

• !Generic OpenAI obtiene el catálogo en cuanto se han indicado Base URL y API Key. Si la consulta falla, el campo pasa a ser una caja de texto, así que escribe el identificador del modelo a mano.
• !Embedding Preference es una pestaña aparte. Déjala en un proveedor de embeddings que funcione, salvo que UnoRouter ofrezca embeddings en tu plan.