搜索文档...

开始输入以搜索文档

聊天指南

自定义提供商

通过你自己的端点和密钥聊天。

用名称、基础 URL 和 API 密钥添加任意 OpenAI 兼容端点。提供商及其密钥仅存放在你的本地数据库中。

自定义模型会和目录模型一起出现在模型选择器中。一段对话可以在两者之间自由切换。

自定义提供商表单,包含名称、端点 URL、API 密钥、格式和模型列表

可以自动拉取提供商的模型列表,也可以手动添加模型 id。每个模型的类型是文本或图像。图像类型的模型供图像生成器使用,不会出现在聊天下拉框中。

模型条目携带自己的设置,包括用于预算计算的分词器。

token 计数驱动历史裁剪与世界书预算,因此在长聊天中正确的分词器很重要。每个自定义模型从 13 个预设中选择:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

或通过 slug 或 URL 指向任意 HuggingFace 分词器:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

HuggingFace 分词器会下载一次并在本地缓存。计数绝不会阻塞发送:若某分词器加载失败,会改用一个近似的后备来计数。

目录模型可以经由一个计费分组路由,该分组会成为新对话的初始值。自定义提供商的模型不走路由,因此分组对它们没有影响。

发往自定义提供商的请求,直接从你的浏览器到你的端点。UnoRouter 的服务器绝不会看到请求、回复或你的提供商密钥。