如何把任意 LLM 连接到 SillyTavern
SillyTavern 能通过一个兼容 OpenAI 的端点与几乎任何模型对话。下面是确切的设置、如何换模型,以及如何修复常见错误。
SillyTavern 是一个前端,不是模型宿主。要用它,你把它指向一个兼容 OpenAI 的端点并粘上一把密钥,随后它就能驱动那个端点背后几乎任何模型。触达众多模型最干净的办法是网关,于是一把密钥和一个基础 URL 解锁整个目录,而不是单一供应商。下面是确切的设置,外加如何换模型,以及如何修复人们通常会碰到的错误。
你首先需要什么
三样东西:一个运行中的 SillyTavern 安装、一个兼容 OpenAI 的端点,以及给它的一把密钥。网关把后两样一并覆盖,因为它给你一个基础 URL 和一把触达众多模型的密钥。用 UnoRouter,你创建账户、取得密钥,便准备就绪;有一个免费档位,让你在花任何钱之前先试一个角色。把密钥放在手边,别把它粘到任何公开的地方。
设置步骤
在 SillyTavern 中,打开 API 面板并选择 Chat Completion,然后选 OpenAI 兼容(Custom)来源。把基础 URL 设为 https://api.unorouter.com/v1,粘上你的 UnoRouter 密钥,点击以加载模型列表。从下拉中挑一个模型,发一条测试消息。你的角色、世界书和预设照旧运行,因为 SillyTavern 需要的只是一个端点和一把密钥。同一把密钥在 Janitor.AI、RisuAI 和 Chub 里也能用。
之后换模型
因为一切都经由一个端点,换模型只是在模型下拉里选另一项;没有新账户、新密钥或新基础 URL。这让你在搭建一个场景时跑一个便宜的免费模型,再在关键时刻切到一个更强的付费模型。一把密钥上有 200 多个模型,你便能让模型贴合场景,而不必将就单一供应商所提供的东西。
常见错误与修复
如果模型列表加载不出来,再次检查基础 URL 是否以 /v1 结尾,以及密钥是否粘得没有多余空格。401 意味着密钥错误或已过期;再复制一遍。某个模型上的 404 意味着那个模型名没有从已加载的列表中选中。如果回复被截断,在 SillyTavern 的设置里把响应长度调高。多数设置失败是基础 URL 打错或密钥带空格,所以先查这些。
全部诀窍就这些
把任意 LLM 连接到 SillyTavern,归结为一个兼容 OpenAI 的端点加一把密钥,而网关把这变成单一设置背后的众多模型。UnoRouter 给你那个基础 URL、一个起步的免费档位,以及 200 多个无需重做任何事即可来回切换的模型。设置一次,同一把密钥便随你走遍每个 RP 前端。