Мы объединили 130+ бесплатных AI-моделей от около 50 провайдеров в один эндпоинт

UnoRouter агрегирует бесплатные каналы от около 50 провайдеров в более чем 130 моделей с настоящим бесплатным тиром за одним ключом. Каждая бесплатная модель допускает около 1 запроса в минуту на пользователя; при превышении лимита возвращается HTTP 429 с заголовком Retry-After, а при исчерпании пулов выдаётся явная ошибка all providers busy, после чего восстановление происходит автоматически. Платные модели тарифицируются по схеме pay as you go от $1.

Рынок бесплатных LLM реален, но разрознен: NVIDIA, Cloudflare, Gemini, Mistral, Z.ai, ModelScope и десятки других сервисов раздают реальные мощности, но за разными страницами регистрации, форматами ключей и несовместимыми API. Мы нашли, протестировали и объединили всех постоянно бесплатных провайдеров, каких только смогли найти, в UnoRouter. Результат: 130+ бесплатных моделей от около 50 провайдеров за одним OpenAI-совместимым эндпоинтом и одним ключом.

Что мы добавили

Около пятидесяти бесплатных провайдеров, добавленных по одному: официальные бесплатные тиры, такие как NVIDIA NIM, Cloudflare Workers AI, Gemini, Mistral, Z.ai и ModelScope, хосты и роутеры открытых моделей, сообщественные сети вроде Gonka и AI Horde, а также бесплатные веб-продукты, к которым мы подключаемся через собственные адаптеры. Итого 130+ бесплатных моделей: GLM, DeepSeek, Gemini, MiniMax, Qwen, gpt-oss, Nemotron, Llama и другие, плюс бесплатные модели для изображений и аудио. Каждая проверяется от начала до конца на HTTP, стриминг и вызовы инструментов перед запуском, а те же проверки подлинности, что мы применяем к платным моделям, отсеивают провайдеров, которые отдают не ту модель, что заявлена.

Бесплатны не просто так

Эти модели действительно бесплатны, и именно поэтому у них есть лимиты. Каждый вышестоящий провайдер устанавливает свои: запросы в минуту, суточные квоты токенов, бюджеты нейронов Cloudflare, приоритет в волонтёрской очереди. Достигнув предела, провайдер возвращает 429, пока лимит не сбросится. Бесплатный ключ, работавший утром, к обеду может быть исчерпан. Бесплатный уровень даёт пропускную способность по мере возможности, а не гарантию. Если вашей нагрузке нужны предсказуемая задержка и никаких неожиданных 429, используйте платную модель.

Наш собственный лимит запросов и зачем он нужен

Поверх вышестоящих пределов мы добавляем небольшой собственный лимит: один запрос в минуту на каждую бесплатную модель для каждого пользователя. Это сделано намеренно. Отдельная бесплатная модель зачастую представляет собой единый общий вышестоящий пул примерно в миллион токенов в день на всех вместе, так что без лимита горстка активных пользователей осушила бы его за считанные минуты, и остальным не досталось бы ничего. Один запрос в минуту на модель сохраняет пул живым и распределяет его по всему сообществу, а вы можете разнести трафик по множеству бесплатных моделей вместо того, чтобы долбить одну. Достигнув нашего предела, вы получаете HTTP 429 с заголовком Retry-After, который точно сообщает, сколько ждать. Это отдельно от вышестоящего 429 и от 503 ниже. Если вам нужна большая пропускная способность для конкретной модели, используйте её платный уровень, где лимит не действует.

Зачем вообще их объединять

Потому что иначе пришлось бы завести пятьдесят аккаунтов. У каждого провайдера своя регистрация, свой формат ключа, свой базовый URL и свои особенности: одни говорят на собственном диалекте API, другие требуют account id в URL, третьи существуют только в виде веб-чата. Мы взяли всё это на себя, чтобы вы обращались к ним так же, как ко всему остальному: один OpenAI-совместимый эндпоинт, один ключ, название модели. Бесплатные модели обходятся вам в $0, и мы не берём с них комиссию; платные модели и позволяют нам держать всё это в рабочем состоянии.

Как мы смягчаем лимиты

Многие из этих моделей обслуживаются более чем одним бесплатным провайдером. Один только Llama 3.3 70B работает у семи из них. Когда одну и ту же модель предлагают несколько провайдеров, мы объединяем их под единым публикуемым именем и автоматически переключаемся: если вышестоящий провайдер возвращает 429 или замолкает, запрос принимает следующий исправный провайдер, обслуживающий эту модель. Это единственный рычаг, которым мы действительно управляем. Если в какой-то момент у всех провайдеров модели превышен лимит, запрос возвращает HTTP 503 с явным сообщением "все провайдеры заняты" (не 404 и не "модель не найдена"), а канал повторно проверяется и снова включается за считанные минуты нашим cron проверки работоспособности. Так бесплатная модель с несколькими источниками продолжает отвечать ещё долго после того, как исчерпан любой из её провайдеров. У бесплатных моделей с единственным источником резерва нет, поэтому они останавливаются, когда их единственный вышестоящий провайдер исчерпан.

Откуда на самом деле берутся бесплатные модели

Не каждый источник является официальным бесплатным API, и мы предпочитаем открыто говорить об этом, а не позволять вам делать предположения. Часть бесплатного каталога поступает из публичных бесплатных тарифов провайдеров. Часть поступает от сообществ, которые предоставляют бесплатный инференс. Часть поступает из бесплатных веб-чатов, к которым мы подключаемся через собственные адаптеры, хотя эти сервисы не создавались для такого использования. С некоторыми провайдерами мы используем несколько аккаунтов, чтобы распределять нагрузку. Если провайдер просит нас остановиться, мы останавливаемся: в сентябре мы удалили модель в течение нескольких часов после того, как её владелец связался с нами. Если вашей работе нужен официальный и стабильный источник, используйте платные модели или собственный API провайдера.

Попробуйте

Все 130+ бесплатных моделей доступны за одним OpenAI-совместимым эндпоинтом. Получите API-ключ или просмотрите каталог моделей с фильтром по бесплатным. Только помните, на каком тире вы находитесь, когда видите 429 или 503.