Hướng dẫn tích hợp AnythingLLM

Tổng quan

AnythingLLM coi UnoRouter là một nhà cung cấp Generic OpenAI. Nhập mô hình, đặt cửa sổ ngữ cảnh, rồi lưu.

Cấu hình nhanh

Dán những giá trị này vào ứng dụng khách. Khóa của bạn tự điền khi đã đăng nhập.

URL cơ sở: https://api.unorouter.com/v1
Khoá API: YOUR_API_KEY

Tương thích

Thiết lập từng bước

1. 1
   Mở LLM Preference

   Mở Settings ở thanh bên, rồi vào LLM Preference.

2. 2
   Chọn Generic OpenAI

   Đặt LLM Provider thành Generic OpenAI rồi điền biểu mẫu. Max Tokens mặc định là 1024 và giới hạn mọi câu trả lời, vì vậy hãy tăng giá trị này.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   Đăng nhập để tự động điền API key

3. 3
   Lưu

   Lưu lại. AnythingLLM sẽ dùng UnoRouter cho các không gian trò chuyện.

Mô hình đề xuất

Các mô hình miễn phí hoạt động ở đây. Dán bất kỳ model id nào vào ứng dụng khách.

Lưu ý

• !Generic OpenAI sẽ tải danh mục ngay khi bạn điền Base URL và API Key. Nếu việc tải thất bại, ô này chuyển thành ô nhập văn bản, khi đó hãy tự gõ mã model.
• !Embedding Preference là một thẻ riêng. Hãy giữ nó ở một nhà cung cấp embedding đang hoạt động, trừ khi UnoRouter cung cấp embedding trong gói của bạn.