발행됨
제품

어떤 LLM이든 SillyTavern에 연결하는 법

SillyTavern은 하나의 OpenAI 호환 엔드포인트로 거의 모든 모델과 대화할 수 있습니다. 정확한 설정, 모델 전환 방법, 흔한 오류 해결법을 보여드립니다.

·3분 분량·UnoRouter 팀
제품

SillyTavern은 프런트엔드이지 모델 호스트가 아닙니다. 쓰려면 OpenAI 호환 엔드포인트로 향하게 하고 키를 붙여 넣으면, 그 엔드포인트 뒤의 거의 모든 모델을 몰 수 있습니다. 많은 모델에 닿는 가장 깔끔한 방법은 게이트웨이라, 하나의 키와 베이스 URL이 단일 공급자가 아니라 카탈로그 전체를 풉니다. 정확한 설정에 더해, 모델 전환 방법과 사람들이 흔히 부딪히는 오류 해결법을 보여드립니다.

먼저 필요한 것

세 가지입니다. 돌아가는 SillyTavern 설치, OpenAI 호환 엔드포인트, 그리고 그것을 위한 키. 게이트웨이는 뒤의 둘을 한 번에 덮습니다. 많은 모델에 닿는 하나의 베이스 URL과 하나의 키를 주기 때문입니다. UnoRouter에서는 계정을 만들고 키를 받으면 준비 끝입니다. 무료 등급이 있어 무언가를 쓰기 전에 캐릭터를 시험할 수 있습니다. 키는 가까이 두고 어디에도 공개로 붙여 넣지 마세요.

설정 단계

SillyTavern에서 API 패널을 열고 Chat Completion을 고른 뒤 OpenAI 호환(Custom) 소스를 고릅니다. 베이스 URL을 https://api.unorouter.com/v1로 설정하고, UnoRouter 키를 붙여 넣고, 클릭해 모델 목록을 불러옵니다. 드롭다운에서 모델을 고르고 테스트 메시지를 보냅니다. 당신의 캐릭터, 로어북, 프리셋은 그대로 작동합니다. SillyTavern에 필요했던 것은 엔드포인트와 키뿐이기 때문입니다. 같은 키는 Janitor.AI, RisuAI, Chub에서도 작동합니다.

나중에 모델 전환하기

모든 것이 하나의 엔드포인트를 지나므로, 모델 전환은 그저 모델 드롭다운에서 다른 항목을 고르는 일입니다. 새 계정도, 키도, 베이스 URL도 없습니다. 그 덕에 장면을 짜는 동안에는 값싼 무료 모델을 돌리고, 중요한 순간에는 더 강한 유료 모델로 바꿀 수 있습니다. 하나의 키에 200개가 넘는 모델이 있으면, 단일 공급자가 내놓는 것에 타협하는 대신 모델을 장면에 맞출 수 있습니다.

흔한 오류와 해결

모델 목록이 불러와지지 않으면, 베이스 URL이 /v1로 끝나는지와 키가 군더더기 공백 없이 붙었는지 다시 확인하세요. 401은 키가 틀렸거나 만료됐다는 뜻입니다. 다시 복사하세요. 모델에서의 404는 그 모델 이름이 불러온 목록에서 선택되지 않았다는 뜻입니다. 답변이 잘리면 SillyTavern 설정에서 응답 길이를 올리세요. 설정 실패의 대부분은 잘못 친 베이스 URL이나 공백이 든 키이니, 그것부터 확인하세요.

이게 비법의 전부

어떤 LLM이든 SillyTavern에 연결하는 일은 결국 하나의 OpenAI 호환 엔드포인트와 키로 귀결되고, 게이트웨이는 그것을 단일 설정 뒤의 많은 모델로 바꿉니다. UnoRouter은 그 베이스 URL, 시작용 무료 등급, 그리고 아무것도 다시 하지 않고 오갈 수 있는 200개가 넘는 모델을 줍니다. 한 번 설정하면, 같은 키가 모든 RP 프런트엔드에서 당신을 따라다닙니다.

SillyTavern을 연결할 준비가 되셨나요? 무료 계정 만들기 또는 모델 둘러보기.

관련 글
어떤 LLM이든 SillyTavern에 연결하는 법 | UnoRouter