已发布
产品

我们把来自约 50 家提供商的 130+ 个免费 AI 模型聚合到了一个端点

我们把约 50 家免费提供商接入了 UnoRouter:130+ 个免费模型,一个兼容 OpenAI 的端点,每个 token 0 美元。它们带着我们无法提高的上游限制,另外我们自己加了一个每分钟 1 次的轻量限制,让共享资源池保持公平。以下是不加修饰的说明。

·阅读时间 3 分钟·作者:UnoRouter 团队
公告产品

UnoRouter 把来自约 50 家上游提供商的免费通道聚合成 130 多个带真正免费额度的模型,只需一个密钥。每个免费模型每位用户每分钟约 1 次请求;超出时返回带 Retry-After 头的 HTTP 429,资源池耗尽时会返回明确的“所有提供商繁忙”错误并自动恢复。付费模型按量计费,1 美元起。

免费 LLM 资源确实存在,但非常分散:NVIDIA、Cloudflare、Gemini、Mistral、Z.ai、ModelScope 以及其他几十家都在提供真实的免费算力,却分布在几十个注册页面、几十种密钥格式和互不兼容的 API 之后。我们把能找到的每一家长期免费的提供商都发现、测试并整合进了 UnoRouter。结果是:来自约 50 家提供商的 130+ 个免费模型,集中在一个兼容 OpenAI 的端点和一个密钥之后。

我们加了什么

大约五十家免费提供商,一家一家接入:NVIDIA NIM、Cloudflare Workers AI、Gemini、Mistral、Z.ai、ModelScope 等官方免费额度,开源模型托管商和路由服务,Gonka、AI Horde 等社区网络,以及我们通过自己的适配器接入的免费网页产品。合计 130+ 个免费模型:GLM、DeepSeek、Gemini、MiniMax、Qwen、gpt-oss、Nemotron、Llama 等,另有免费的图像和音频模型。每个模型上线前都会完整测试 HTTP、流式输出和工具调用,我们对付费模型使用的真实性检查同样会揪出那些实际提供的模型与宣称不符的提供商。

免费是有原因的

这些模型是真正免费的,也正因如此它们才有限制。每个上游都各自设限:每分钟请求数、每日 token 配额、Cloudflare 的神经元预算、志愿者队列的优先级。一旦触及上限,该提供方就会返回 429,直到限额重置。今早还能用的免费密钥,到下午就可能已经耗尽。免费层是尽力而为的吞吐量,而非保证。如果你的工作负载需要可预测的延迟、不希望冒出意外的 429,请使用付费模型。

我们自己的速率限制,以及它为何存在

在上游限额之上,我们再加了一道自己的小限制:每位用户、每个免费模型每分钟一次请求。这是刻意为之。单个免费模型往往就是一个共享的上游池,全体用户合计每天也许只有一百万 token,所以若没有上限,少数重度用户几分钟内就会把它抽干,其他人则什么都拿不到。每模型每分钟一次,让这个池得以存续并分摊到整个社区,你也可以把流量分散到众多免费模型上,而不是死磕某一个。当你触及我们的上限时,你会收到一个 HTTP 429,并附带一个 Retry-After 头,准确告诉你需要等待多久。这与上游的 429 以及下文的 503 是两码事。如果你想在某个特定模型上获得更高吞吐量,请使用它的付费层,那里不适用此限制。

为什么要把它们聚合起来

因为另一种选择是注册五十个账号。每家提供商都有自己的注册流程、密钥格式、基础 URL 和各种怪癖:有的使用自己的 API 方言,有的把账号 ID 放在 URL 里,有的只有网页聊天。这些我们都处理好了,你只需要像调用其他模型一样调用它们:一个兼容 OpenAI 的端点,一个密钥,一个模型名。免费模型对你是 0 美元,我们也不从中抽成;维持运营靠的是付费模型。

我们如何缓和这些限制

这些模型中有许多是由不止一家免费提供方供给的。单是 Llama 3.3 70B 就跑在其中七家上。当多家提供方提供同一个模型时,我们会把它们合并到一个对外发布的名称下,并自动进行故障转移:如果某个上游返回 429 或陷入沉默,供给该模型的下一家健康提供方就会接手这次请求。这是我们确实能掌控的唯一杠杆。如果某个模型的所有提供方一时间都被限速,请求会返回一个 HTTP 503,附带明确的"所有提供方繁忙"消息(既不是 404,也不是"未找到模型"),随后我们的健康检查 cron 会在几分钟内重新测试并重新启用该通道。这样一来,多源免费模型在其任一提供方枯竭之后,仍能长时间继续应答。单源免费模型没有退路,因此一旦其唯一的上游用尽,就会停摆。

免费模型到底从哪里来

并不是每个来源都是官方免费 API,我们宁愿直说,也不想让你误以为如此。免费目录的一部分来自提供商公开的免费额度,一部分来自提供免费推理的社区网络,还有一部分来自我们通过自己的适配器接入的免费网页聊天,这些服务并不是为这种用法设计的。在少数提供商上,我们使用不止一个账号来分摊负载。只要提供商要求我们停止,我们就会停止:九月份,在模型所有者联系我们后的几小时内,我们就下架了该模型。如果你的工作需要官方且稳定的来源,请使用付费模型或提供商自己的 API。

来试试

全部 130+ 个免费模型都已在一个兼容 OpenAI 的端点上线。获取 API 密钥,或浏览模型目录并筛选免费模型。遇到 429 或 503 时,记得留意自己用的是哪一档。

常见问题

UnoRouter 有多少个免费模型?

任何时候都超过 130 个,来自约 50 家上游提供商。具体列表会随上游免费资源池的耗尽与恢复而变化,实时列表见 unorouter.com/models。

免费额度的速率限制是多少?

每个模型每位用户每分钟约 1 次请求。超出限制会返回带 Retry-After 头的 HTTP 429。既然有 130+ 个免费模型,实际做法是轮换模型,而不是干等。

使用免费模型需要信用卡吗?

不需要。用 Discord 或 GitHub 注册,创建密钥,就能使用任何带 :free 后缀的模型。一次性的 $1 Discord 验证奖励可以用在付费模型上。

相关文章