Hướng dẫn tích hợp AnythingLLM

Tổng quan

AnythingLLM coi UnoRouter là một nhà cung cấp Generic OpenAI. Nhập mô hình, đặt cửa sổ ngữ cảnh, rồi lưu.

Cấu hình nhanh

Dán những giá trị này vào ứng dụng khách. Khóa của bạn tự điền khi đã đăng nhập.

URL cơ sở: https://api.unorouter.com/v1
Khoá API: YOUR_API_KEY

Tương thích

Thiết lập từng bước

1. 1
   Mở LLM Preference

   Mở Settings ở thanh bên, rồi vào LLM Preference.

2. 2
   Chọn Generic OpenAI

   Đặt LLM Provider thành Generic OpenAI và điền vào biểu mẫu.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Token context window: 50000

   Đăng nhập để tự động điền API key

3. 3
   Lưu

   Lưu lại. AnythingLLM sẽ dùng UnoRouter cho các không gian trò chuyện.

Mô hình đề xuất

Các mô hình miễn phí hoạt động ở đây. Dán bất kỳ model id nào vào ứng dụng khách.

Lưu ý

• !Generic OpenAI không tải danh mục. Hãy nhập tên mô hình và cửa sổ ngữ cảnh thủ công.
• !Embedding Preference là một thẻ riêng. Hãy giữ nó ở một nhà cung cấp embedding đang hoạt động, trừ khi UnoRouter cung cấp embedding trong gói của bạn.