Hướng dẫn tích hợp AnythingLLM

Tổng quan

AnythingLLM coi UnoRouter là nhà cung cấp Generic OpenAI. Gõ tên mô hình, đặt cửa sổ ngữ cảnh và lưu.

Cấu hình nhanh

Dán các giá trị này vào ứng dụng. Khoá của bạn sẽ tự điền khi bạn đã đăng nhập.

URL cơ sở: https://api.unorouter.com/v1
Khoá API: YOUR_API_KEY

Tương thích

Thiết lập từng bước

1. 1
   Mở LLM Preference

   Nhấn Settings ở thanh bên rồi LLM Preference.

2. 2
   Chọn Generic OpenAI

   Đặt LLM Provider thành Generic OpenAI và điền biểu mẫu.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Token context window: 50000

   Đăng nhập để tự động điền API key

3. 3
   Lưu

   Nhấn lưu. AnythingLLM dùng UnoRouter cho các không gian chat.

Mô hình đề xuất

Các mô hình miễn phí hoạt động tốt ở đây. Dán bất kỳ id mô hình nào vào ứng dụng.

Lưu ý

• !AnythingLLM không tự động tải danh mục cho Generic OpenAI. Gõ tên mô hình và cửa sổ ngữ cảnh thủ công.
• !Tab Embedding Preference là riêng biệt. Giữ một nhà cung cấp embedding hoạt động trừ khi UnoRouter cung cấp embedding trong gói của bạn.