Kami mengumpulkan 130+ model AI gratis dari sekitar 50 penyedia ke dalam satu endpoint

UnoRouter mengumpulkan jalur gratis dari sekitar 50 penyedia upstream ke dalam lebih dari 130 model dengan tier gratis sungguhan di balik satu kunci. Setiap model gratis mengizinkan sekitar 1 permintaan per menit per pengguna; jika batas terlampaui, dikembalikan HTTP 429 dengan header Retry-After, dan pool yang habis mengembalikan error eksplisit semua penyedia sibuk dan pulih secara otomatis. Model berbayar ditagih sesuai pemakaian mulai dari $1.

Ekosistem LLM gratis memang nyata, tapi terpencar-pencar: NVIDIA, Cloudflare, Gemini, Mistral, Z.ai, ModelScope, dan puluhan lainnya masing-masing menawarkan kapasitas gratis yang sesungguhnya, tapi tersembunyi di balik puluhan halaman pendaftaran, format kunci yang berbeda-beda, dan API yang tidak kompatibel satu sama lain. Kami menemukan, menguji, dan menggabungkan setiap penyedia gratis permanen yang bisa kami temukan ke dalam UnoRouter. Hasilnya: 130+ model gratis dari sekitar 50 penyedia di balik satu endpoint kompatibel OpenAI dan satu kunci.

Apa yang kami tambahkan

Sekitar lima puluh penyedia gratis, ditambahkan satu per satu: tier gratis resmi seperti NVIDIA NIM, Cloudflare Workers AI, Gemini, Mistral, Z.ai, dan ModelScope; host dan router model terbuka; jaringan komunitas seperti Gonka dan AI Horde; serta produk web gratis yang kami hubungkan melalui adapter kami sendiri. Totalnya 130+ model gratis: GLM, DeepSeek, Gemini, MiniMax, Qwen, gpt-oss, Nemotron, Llama, dan lainnya, ditambah model gambar dan audio gratis. Setiap model diuji secara menyeluruh untuk HTTP, streaming, dan pemanggilan tool sebelum tayang, dan pemeriksaan keaslian yang sama yang kami jalankan pada model berbayar mendeteksi penyedia yang menyajikan model berbeda dari yang mereka klaim.

Gratis ada alasannya

Model-model ini benar-benar gratis, dan justru karena itulah mereka memiliki batas. Setiap hulu menerapkan batasnya sendiri: permintaan per menit, kuota token harian, anggaran neuron Cloudflare, prioritas antrean relawan. Begitu mencapai batas, penyedia itu mengembalikan 429 sampai batasnya disetel ulang. Kunci gratis yang tadi pagi bekerja bisa habis pada sore harinya. Tingkat gratis adalah throughput sebisa mungkin, bukan jaminan. Jika beban kerja Anda butuh latensi yang bisa diprediksi dan tanpa 429 yang mengejutkan, gunakan model berbayar.

Batas laju milik kami sendiri, dan mengapa ia ada

Di atas batas dari hulu, kami menambahkan batas kecil milik kami sendiri: satu permintaan per menit per model gratis, per pengguna. Ini disengaja. Satu model gratis sering kali merupakan satu kumpulan hulu bersama yang mungkin berisi sejuta token per hari untuk semua orang digabung, sehingga tanpa batas, segelintir pengguna berat akan menguras habis dalam hitungan menit dan yang lain tidak kebagian apa-apa. Satu per menit per model menjaga kumpulan itu tetap hidup dan tersebar ke seluruh komunitas, dan Anda bisa menyebarkan lalu lintas ke banyak model gratis alih-alih menggempur satu model. Saat Anda mencapai batas kami, Anda mendapat HTTP 429 dengan header Retry-After yang memberi tahu persis berapa lama harus menunggu. Ini terpisah dari 429 dari hulu dan dari 503 di bawah. Jika Anda ingin throughput lebih tinggi pada model tertentu, gunakan tingkat berbayarnya, tempat batas ini tidak berlaku.

Kenapa repot-repot menggabungkannya

Karena alternatifnya adalah lima puluh akun. Setiap penyedia punya pendaftaran sendiri, format kunci sendiri, base URL sendiri, dan kebiasaan sendiri: sebagian menggunakan dialek API mereka sendiri, sebagian menyertakan account id di URL, sebagian hanya tersedia sebagai web chat. Kami menyerap semua itu agar kamu bisa memanggilnya seperti memanggil yang lain: satu endpoint kompatibel OpenAI, satu kunci, satu nama model. Model gratis tidak dikenakan biaya $0 dan kami tidak mengambil komisi; model berbayarlah yang menghidupi layanan ini.

Bagaimana kami meringankan batasannya

Banyak dari model ini dilayani oleh lebih dari satu penyedia gratis. Llama 3.3 70B saja berjalan di tujuh di antaranya. Ketika beberapa penyedia menawarkan model yang sama, kami menggabungkannya di bawah satu nama yang dipublikasikan dan melakukan failover otomatis: jika satu hulu mengembalikan 429 atau terdiam, penyedia sehat berikutnya yang melayani model itu mengambil alih permintaan. Itulah satu-satunya tuas yang benar-benar kami kendalikan. Jika untuk sesaat setiap penyedia sebuah model sedang dibatasi laju, permintaan mengembalikan HTTP 503 dengan pesan eksplisit "semua penyedia sibuk" (bukan 404, dan bukan "model tidak ditemukan"), lalu kanal diuji ulang dan diaktifkan kembali dalam hitungan menit oleh cron kesehatan kami. Jadi, model gratis multi-sumber terus menjawab lama setelah salah satu penyedianya habis. Model gratis sumber tunggal tidak punya cadangan, sehingga macet ketika satu-satunya hulunya terkuras.

Dari mana sebenarnya model gratis berasal

Tidak semua sumber adalah API gratis resmi, dan kami lebih memilih menyatakannya terus terang daripada membiarkan Anda berasumsi sendiri. Sebagian katalog gratis berasal dari tier gratis publik dari penyedia. Sebagian berasal dari jaringan komunitas yang menyediakan inferensi gratis. Sebagian berasal dari web chat gratis yang kami hubungkan melalui adaptor kami sendiri, yang tidak dibuat oleh layanan tersebut untuk penggunaan seperti ini. Pada beberapa penyedia, kami menjalankan lebih dari satu akun untuk membagi beban. Ketika penyedia meminta kami berhenti, kami berhenti: pada bulan September, kami menghapus sebuah model dalam beberapa jam setelah pemiliknya menghubungi kami. Jika pekerjaan Anda membutuhkan sumber yang resmi dan stabil, gunakan model berbayar atau API milik penyedia itu sendiri.

Coba sendiri

Semua 130+ model gratis sudah aktif di balik satu endpoint kompatibel OpenAI. Ambil API key atau jelajahi katalog model dan filter yang gratis. Ingat saja tier yang kamu gunakan saat 429 atau 503 muncul.