ドキュメントを検索...

入力してドキュメントを検索

チャットガイド

カスタムプロバイダー

自分のエンドポイントとキーでチャットする。

名前、ベースURL、APIキーを添えて、任意のOpenAI互換エンドポイントを追加できます。プロバイダーとキーはローカルデータベースにのみ保存されます。

カスタムモデルはカタログのモデルと並んでモデル選択に現れます。会話中に自由に切り替えられます。

名前・エンドポイントURL・APIキー・形式・モデル一覧があるカスタムプロバイダーのフォーム

プロバイダーのモデル一覧を自動取得するか、モデルIDを手で追加します。各モデルはテキストか画像の型を持ちます。画像型のモデルは画像生成に使われ、チャットのドロップダウンには出ません。

モデル項目は、予算計算に使うトークナイザーを含む独自の設定を持ちます。

トークン数は履歴の切り詰めとロアブック予算を左右するため、長いチャットでは正しいトークナイザーが重要です。各カスタムモデルは13のプリセットから選べます:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

またはスラッグかURLで任意のHuggingFaceトークナイザーを指定:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

HuggingFaceトークナイザーは一度ダウンロードされローカルにキャッシュされます。計数が送信を妨げることはありません。読み込みに失敗すれば近似のフォールバックが代わりに数えます。

カタログのモデルは、新規チャットの初期値となる課金グループを経由してルーティングできます。カスタムプロバイダーのモデルはルーティングを経由しないため、グループの影響を受けません。

カスタムプロバイダーへのリクエストは、ブラウザからあなたのエンドポイントへ直行します。UnoRouter のサーバーがリクエスト、返信、プロバイダーキーを見ることはありません。