AnythingLLM 통합 가이드

개요

AnythingLLM은 UnoRouter을 Generic OpenAI 제공자로 다룹니다. 모델을 입력하고 컨텍스트 창을 지정한 뒤 저장하세요.

빠른 설정

클라이언트에 붙여 넣으세요. 로그인 상태면 키가 자동으로 채워집니다.

기본 URL: https://api.unorouter.com/v1
API 키: YOUR_API_KEY

호환성

단계별 설정

1. 1
   LLM Preference 열기

   사이드바에서 Settings를 열고 이어서 LLM Preference를 여세요.

2. 2
   Generic OpenAI 선택

   LLM Provider를 Generic OpenAI로 설정하고 양식을 채우세요. Max Tokens는 기본값이 1024이며 모든 응답을 제한하므로 값을 올리세요.

   text

   Base URL: https://api.unorouter.com/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   API 키를 자동 입력하려면 로그인하세요

3. 3
   저장

   저장하세요. AnythingLLM이 채팅 워크스페이스에서 UnoRouter을 사용합니다.

추천 모델

여기서 동작하는 무료 모델입니다. 아무 모델 id나 클라이언트에 붙여 넣으세요.

주의사항

• !Base URL과 API Key를 설정하면 Generic OpenAI가 카탈로그를 가져옵니다. 가져오기에 실패하면 해당 항목이 텍스트 입력란으로 바뀌므로 모델 ID를 직접 입력하세요.
• !Embedding Preference는 별도 탭입니다. UnoRouter이 사용 중인 요금제에서 임베딩을 제공하지 않는 한 동작하는 임베딩 제공자로 두세요.