커스텀 프로바이더
내 엔드포인트와 내 키로 채팅하기.
이름, 기본 URL, API 키만으로 어떤 OpenAI 호환 엔드포인트든 추가할 수 있습니다. 프로바이더와 키는 로컬 데이터베이스에만 저장됩니다.
커스텀 모델은 카탈로그 모델과 나란히 모델 선택기에 나타납니다. 대화 중에 자유롭게 오갈 수 있습니다.
제공자의 모델 목록을 불러와 검색하고 원하는 모델에 체크하세요. 채팅 선택기에는 체크한 모델만 표시됩니다. 목록에 없는 모델 ID는 검색창에 입력해 추가할 수 있습니다. 각 모델은 텍스트 또는 이미지 유형입니다. 이미지 유형 모델은 채팅 드롭다운이 아니라 이미지 생성기에 쓰입니다.
모델 항목은 예산 계산에 쓰는 토크나이저를 포함해 자체 설정을 지닙니다.
토큰 계산이 기록 자르기와 로어북 예산을 좌우하므로, 긴 채팅에선 올바른 토크나이저가 중요합니다. 각 커스텀 모델은 13가지 프리셋 중에서 고릅니다:
auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere
혹은 슬러그나 URL로 아무 HuggingFace 토크나이저를 지정하세요:
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.jsonHuggingFace 토크나이저는 한 번 내려받아 로컬에 캐시됩니다. 계산이 전송을 막는 일은 없습니다. 토크나이저 로드가 실패하면 근사 대체가 대신 셉니다.
카탈로그 모델은 새 채팅의 초기값이 되는 과금 그룹을 거쳐 라우팅될 수 있습니다. 커스텀 제공자 모델은 라우팅을 거치지 않으므로 그룹의 영향을 받지 않습니다.
커스텀 프로바이더로 가는 요청은 브라우저에서 당신의 엔드포인트로 직행합니다. UnoRouter 서버는 요청도, 응답도, 프로바이더 키도 절대 보지 못합니다.