Przewodnik integracji LibreChat

Przegląd

LibreChat udostępnia każdy host zgodny z OpenAI przez endpoints.custom. Dodaj blok UnoRouter, ustaw zmienną środowiskową, a wybór modeli wypełni się sam z katalogu.

Szybka konfiguracja

Wpisz te wartości do klienta. Twój klucz wypełnia się automatycznie po zalogowaniu.

Bazowy URL: https://api.unorouter.com/v1
Klucz API: YOUR_API_KEY

Zgodność

Konfiguracja krok po kroku

1. 1
   Edytuj librechat.yaml

   W swojej instalacji LibreChat dodaj blok własnego punktu końcowego w endpoints.custom.

   yaml

   endpoints:
     custom:
       - name: 'UnoRouter'
         apiKey: '${UNOROUTER_API_KEY}'
         baseURL: 'https://api.unorouter.com/v1'
         models:
           fetch: true
         titleConvo: true
         modelDisplayLabel: 'UnoRouter'

   Zaloguj się, aby automatycznie wypełnić klucz API

2. 2
   Dodaj zmienną środowiskową

   Ustaw swój klucz API UnoRouter w pliku .env LibreChat.

   bash

   UNOROUTER_API_KEY=YOUR_API_KEY

   Zaloguj się, aby automatycznie wypełnić klucz API

3. 3
   Uruchom ponownie LibreChat

   Uruchom ponownie kontener lub proces. Punkt końcowy UnoRouter pojawi się w menu czatu.

Polecane modele

Darmowe modele, które dobrze tu działają. Wklej dowolny identyfikator modelu do klienta.

Na co uważać

• !Do wartości zmiennych środowiskowych użyj składni z pojedynczym nawiasem klamrowym, a nie składni sekretów z innych konfiguracji.
• !Jeśli model odrzuca dodatkowe parametry OpenAI, dodaj je do dropParams (na przykład frequency_penalty i presence_penalty).
• !fetch: true automatycznie wypełnia z katalogu UnoRouter. Połącz z default, aby najpierw pokazać preferowane modele.