Hướng dẫn tích hợp LibreChat

Tổng quan

LibreChat mở ra mọi máy chủ tương thích OpenAI qua endpoints.custom. Thêm một khối UnoRouter và đặt biến môi trường; bộ chọn mô hình sẽ được lấp đầy từ danh mục.

Cấu hình nhanh

Dán những giá trị này vào ứng dụng khách. Khóa của bạn tự điền khi đã đăng nhập.

URL cơ sở: https://api.unorouter.com/v1
Khoá API: YOUR_API_KEY

Tương thích

Thiết lập từng bước

1. 1
   Sửa librechat.yaml

   Thêm một khối điểm cuối tùy chỉnh dưới endpoints.custom.

   yaml

   endpoints:
     custom:
       - name: 'UnoRouter'
         apiKey: '${UNOROUTER_API_KEY}'
         baseURL: 'https://api.unorouter.com/v1'
         models:
           fetch: true
         titleConvo: true
         modelDisplayLabel: 'UnoRouter'

   Đăng nhập để tự động điền API key

2. 2
   Thêm biến môi trường

   Đặt khoá API UnoRouter của bạn trong tệp .env của LibreChat.

   bash

   UNOROUTER_API_KEY=YOUR_API_KEY

   Đăng nhập để tự động điền API key

3. 3
   Khởi động lại LibreChat

   Khởi động lại container hoặc tiến trình. Endpoint UnoRouter xuất hiện trong menu chat.

Mô hình đề xuất

Các mô hình miễn phí hoạt động ở đây. Dán bất kỳ model id nào vào ứng dụng khách.

Lưu ý

• !Dùng cú pháp một cặp ngoặc nhọn cho giá trị biến môi trường, không dùng cú pháp secrets như các cấu hình khác.
• !Nếu một mô hình từ chối tham số OpenAI bổ sung, thêm chúng vào dropParams (ví dụ frequency_penalty và presence_penalty).
• !fetch: true sẽ lấy danh sách từ danh mục UnoRouter. Kết hợp với default để đưa các mô hình ưa thích lên đầu.