Zebraliśmy ponad 130 darmowych modeli AI od około 50 dostawców w jednym endpoincie

UnoRouter agreguje darmowe zasoby od około 50 dostawców w ponad 130 modeli z prawdziwym darmowym planem za jednym kluczem. Każdy darmowy model pozwala na około 1 zapytanie na minutę na użytkownika; przekroczenie limitu zwraca HTTP 429 z nagłówkiem Retry-After, a wyczerpane pule zwracają jawny błąd all providers busy i odbudowują się automatycznie. Płatne modele są rozliczane zgodnie z modelem pay as you go od $1.

Krajobraz darmowych LLM jest realny, ale rozproszony: NVIDIA, Cloudflare, Gemini, Mistral, Z.ai, ModelScope i dziesiątki innych udostępniają prawdziwą przepustowość, każda za osobną stroną rejestracji, własnym formatem klucza i niekompatybilnym API. Odkryliśmy, przetestowaliśmy i scaliliśmy każdego dostawcę z trwale darmowym planem, jakiego zdołaliśmy znaleźć, w UnoRouter. Efekt: ponad 130 darmowych modeli od około 50 dostawców za jednym endpointem kompatybilnym z OpenAI i jednym kluczem.

Co dodaliśmy

Około pięćdziesięciu darmowych dostawców, dodawanych jeden po drugim: oficjalne darmowe plany takie jak NVIDIA NIM, Cloudflare Workers AI, Gemini, Mistral, Z.ai i ModelScope, hosty i routery modeli open-source, sieci społecznościowe takie jak Gonka i AI Horde, a także darmowe produkty webowe, z którymi łączymy się przez własne adaptery. To ponad 130 darmowych modeli: GLM, DeepSeek, Gemini, MiniMax, Qwen, gpt-oss, Nemotron, Llama i inne, a także darmowe modele do generowania obrazów i dźwięku. Każdy jest sprawdzany end-to-end pod kątem HTTP, streamingu i wywołań narzędzi zanim trafi na produkcję, a te same kontrole autentyczności, które stosujemy do płatnych modeli, wyłapują dostawców serwujących inny model niż deklarowany.

Darmowe nie bez powodu

Te modele są naprawdę darmowe i właśnie dlatego mają limity. Każdy dostawca nadrzędny wymusza własne: żądania na minutę, dzienne limity tokenów, budżety neuronów Cloudflare, priorytet w kolejce wolontariuszy. Po osiągnięciu progu dany dostawca zwraca 429, dopóki limit się nie zresetuje. Darmowy klucz, który działał rano, po południu może być już wyczerpany. Poziom darmowy to przepustowość na miarę możliwości, a nie gwarancja. Jeśli Twoje obciążenie wymaga przewidywalnego opóźnienia i żadnych niespodziewanych 429, użyj modelu płatnego.

Nasz własny limit szybkości i dlaczego istnieje

Ponad limity nadrzędne dokładamy niewielki własny limit: jedno żądanie na minutę na darmowy model, na użytkownika. To celowe. Pojedynczy darmowy model to często jedna wspólna pula nadrzędna, licząca może milion tokenów dziennie dla wszystkich razem, więc bez progu garstka intensywnych użytkowników opróżniłaby ją w kilka minut, a reszta nie zobaczyłaby nic. Jedno żądanie na minutę na model utrzymuje pulę przy życiu i rozkłada ją na całą społeczność, a Ty możesz rozłożyć ruch na wiele darmowych modeli, zamiast walić w jeden. Po osiągnięciu naszego progu otrzymujesz HTTP 429 z nagłówkiem Retry-After, który dokładnie mówi, jak długo czekać. To coś odrębnego od nadrzędnego 429 i od 503 poniżej. Jeśli chcesz wyższej przepustowości dla konkretnego modelu, użyj jego poziomu płatnego, gdzie limit nie obowiązuje.

Po co w ogóle je agregować

Bo alternatywą jest pięćdziesiąt kont. Każdy dostawca ma własną rejestrację, własny format klucza, własny base URL i własne dziwactwa: niektórzy mówią własnym dialektem API, niektórzy wymagają id konta w URL, niektórzy istnieją tylko jako webowy czat. Wzięliśmy to wszystko na siebie, żebyś wywoływał ich tak samo jak wszystko inne: jeden endpoint kompatybilny z OpenAI, jeden klucz, nazwa modelu. Darmowe modele kosztują $0 i nie pobieramy prowizji; to płatne modele trzymają całość przy życiu.

Jak łagodzimy limity

Wiele z tych modeli obsługuje więcej niż jeden darmowy dostawca. Sam Llama 3.3 70B działa u siedmiu z nich. Gdy ten sam model oferuje kilku dostawców, scalamy ich pod jedną publikowaną nazwą i przełączamy się automatycznie: jeśli jeden dostawca nadrzędny zwróci 429 albo zamilknie, żądanie przejmuje kolejny sprawny dostawca obsługujący ten model. To jedyna dźwignia, którą faktycznie kontrolujemy. Jeśli w danej chwili wszyscy dostawcy modelu mają chwilowo przekroczony limit, żądanie zwraca HTTP 503 z wyraźnym komunikatem "wszyscy dostawcy zajęci" (nie 404 ani "nie znaleziono modelu"), a kanał zostaje ponownie przetestowany i włączony w ciągu minut przez nasz cron kondycji. Dzięki temu darmowy model wieloźródłowy odpowiada jeszcze długo po wyczerpaniu któregokolwiek z jego dostawców. Darmowe modele jednoźródłowe nie mają zapasu, więc zatrzymują się, gdy ich jedyny dostawca nadrzędny się wyczerpie.

Skąd naprawdę pochodzą darmowe modele

Nie każde źródło jest oficjalnym darmowym API i wolimy to powiedzieć wprost, niż pozwalać Ci się domyślać. Część darmowego katalogu pochodzi z publicznych darmowych planów dostawców. Część pochodzi od społecznościowych sieci, które udostępniają darmową inferencję. Część pochodzi z darmowych czatów internetowych, które podłączamy przez własne adaptery, choć te usługi nie zostały stworzone z myślą o takim użyciu. U niektórych dostawców używamy więcej niż jednego konta, aby rozłożyć obciążenie. Gdy dostawca każe nam przestać, przestajemy: we wrześniu usunęliśmy model w ciągu kilku godzin od kontaktu jego właściciela. Jeśli Twoja praca wymaga źródła oficjalnego i stabilnego, skorzystaj z płatnych modeli albo z własnego API dostawcy.

Wypróbuj to

Wszystkie ponad 130 darmowych modeli działa za jednym endpointem kompatybilnym z OpenAI. Pobierz klucz API lub przeglądaj katalog modeli i filtruj według darmowych. Pamiętaj tylko, na którym planie jesteś, gdy pojawi się 429 lub 503.