約50プロバイダーの130以上の無料AIモデルを1つのエンドポイントに集約しました

UnoRouterは約50の上流プロバイダーの無料枠を集約し、130以上のモデルを1つのキーで使える本格的な無料ティアとして提供しています。各無料モデルはユーザーあたり約1リクエスト/分まで利用可能で、上限に達するとHTTP 429がRetry-Afterヘッダーとともに返されます。プールが枯渇した場合は「all providers busy」エラーが明示的に返され、自動的に回復します。有料モデルは$1からの従量課金制です。

無料LLMのエコシステムは確かに存在しますが、非常に分散しています。NVIDIA、Cloudflare、Gemini、Mistral、Z.ai、ModelScopeをはじめとする数十のプロバイダーがそれぞれ独自のサインアップページ、キー形式、互換性のないAPIの裏側で本物のキャパシティを無償提供しています。私たちは見つけられる限りすべての永続的無料プロバイダーを調査、テストし、UnoRouterに統合しました。その結果、約50プロバイダーの130以上の無料モデルが1つのOpenAI互換エンドポイントと1つのキーで利用できます。

追加したもの

約50の無料プロバイダーを1つずつ追加しました。NVIDIA NIM、Cloudflare Workers AI、Gemini、Mistral、Z.ai、ModelScopeなどの公式無料ティア、オープンモデルホストとルーター、GonkaやAI Hordeなどのコミュニティネットワーク、そして独自アダプター経由で接続する無料Webサービスが含まれます。合計130以上の無料モデルです。GLM、DeepSeek、Gemini、MiniMax、Qwen、gpt-oss、Nemotron、Llamaなど、さらに無料の画像・音声モデルも揃っています。すべてのモデルはHTTP、ストリーミング、ツールコールをエンドツーエンドで検証してから公開しており、有料モデルと同じ真正性チェックにより、申告と異なるモデルを提供するプロバイダーも検出します。

無料には理由がある

これらのモデルは本当に無料であり、まさにそれゆえに制限があります。各上流はそれぞれ独自の制限を課します。1分あたりのリクエスト数、1日のトークン割り当て、Cloudflareのニューロン予算、ボランティアキューでの優先度などです。上限に達すると、そのプロバイダーはリセットされるまで429を返します。今朝は使えた無料キーが、午後には枯渇していることもあります。無料枠はベストエフォートのスループットであり、保証ではありません。ワークロードに予測可能なレイテンシと不意の429がないことが必要なら、有料モデルを使ってください。

当社独自のレート制限と、それがある理由

上流の上限に加えて、当社は独自の小さな制限を設けています。ユーザーごと、無料モデルごとに1分あたり1リクエストです。これは意図的なものです。1つの無料モデルは多くの場合、全員合わせて1日およそ100万トークンという単一の共有上流プールであり、上限がなければ一握りのヘビーユーザーが数分でそれを使い果たし、他の全員には何も残りません。モデルごとに1分1回という制限は、プールを生かし続けてコミュニティ全体に行き渡らせます。また1つのモデルを叩き続けるのではなく、多数の無料モデルにトラフィックを分散できます。当社の上限に達すると、あとどれだけ待てばよいかを正確に示すRetry-Afterヘッダー付きのHTTP 429が返されます。これは上流の429や下記の503とは別物です。特定のモデルでより高いスループットが必要なら、この制限が適用されないその有料枠を使ってください。

そもそもなぜ集約するのか

なぜなら、代替手段は50個のアカウント管理だからです。プロバイダーごとに独自のサインアップ、キー形式、ベースURL、そして独自の仕様があります。独自のAPIを持つもの、URLにアカウントIDが含まれるもの、Webチャットとしてしか存在しないものもあります。私たちはそれらをすべて吸収し、他のモデルと同じ方法で呼び出せるようにしました。1つのOpenAI互換エンドポイント、1つのキー、モデル名を指定するだけです。無料モデルのコストは$0で、私たちも手数料を取りません。有料モデルの収益でサービスを維持しています。

どうやって制限を和らげるか

これらのモデルの多くは、複数の無料プロバイダーによって提供されています。Llama 3.3 70Bだけでも7社で動いています。複数のプロバイダーが同じモデルを提供する場合、当社はそれらを1つの公開名にまとめ、自動的にフェイルオーバーします。ある上流が429を返すか無反応になると、そのモデルを提供する次の正常なプロバイダーがリクエストを引き継ぎます。これは当社が実際に制御できる唯一のレバーです。あるモデルのすべてのプロバイダーが一時的にレート制限を受けている場合、リクエストは明示的な「all providers busy（全プロバイダーが混雑中）」というメッセージ付きのHTTP 503を返し（404でも「model not found（モデルが見つかりません）」でもありません）、チャネルは当社のヘルスcronによって数分以内に再テストされ再有効化されます。こうして、複数ソースの無料モデルは、そのいずれかのプロバイダーが枯渇した後もずっと応答し続けます。単一ソースの無料モデルにはフォールバックがないため、唯一の上流が尽きると停止します。

無料モデルの本当の提供元

すべてのソースが公式の無料APIというわけではありません。私たちは、ユーザーに勝手に思い込ませるより、そのことを明確に伝えたいと考えています。無料カタログの一部は、プロバイダーが公開している無料ティアから提供されています。一部は、無料の推論を提供しているコミュニティネットワークからのものです。一部は、私たちが独自のアダプターを介して接続している無料のウェブチャットから提供されていますが、これらのサービスはこうした用途を想定して作られたものではありません。いくつかのプロバイダーでは、負荷を分散するために複数のアカウントを運用しています。プロバイダーから停止を求められた場合は、ただちに停止します。実際、9月には、モデルの提供者から連絡を受けてから数時間以内にそのモデルを削除しました。公式で安定したソースが必要な場合は、有料モデルまたはプロバイダー自身のAPIをご利用ください。

試してみる

130以上の無料モデルすべてが1つのOpenAI互換エンドポイントで利用できます。APIキーを取得するか、モデルカタログを閲覧して無料フィルターで絞り込んでください。429や503が表示されたときに、自分がどのティアを使っているか確認しておきましょう。