Chúng tôi đã gộp hơn 190 mô hình AI miễn phí vào một endpoint duy nhất

UnoRouter gom các suất miễn phí từ nhiều nhà cung cấp thượng nguồn thành hơn 190 mô hình có bậc miễn phí thực sự sau một khóa duy nhất. Mỗi mô hình miễn phí cho phép khoảng 1 yêu cầu mỗi phút cho mỗi người dùng; chạm giới hạn sẽ trả về HTTP 429 kèm header Retry-After, còn các pool cạn sẽ trả về lỗi rõ ràng rằng tất cả nhà cung cấp đang bận và tự phục hồi. Mô hình trả phí tính theo mức dùng từ $1.

Bối cảnh LLM miễn phí là có thật nhưng phân tán: Groq, Gemini, Cloudflare, NVIDIA, SiliconFlow và cả chục nhà cung cấp khác, mỗi bên đều cho đi năng lực thực sự, ẩn sau cả chục trang đăng ký, cả chục định dạng khóa và cả chục API không tương thích. Chúng tôi đã tìm ra, kiểm thử và hợp nhất vào UnoRouter mọi nhà cung cấp hợp pháp, miễn phí vĩnh viễn mà chúng tôi tìm được. Kết quả: 190+ dòng mô hình miễn phí từ 18 nhà cung cấp, sau một endpoint OpenAI-compatible duy nhất và một khóa duy nhất.

Những gì chúng tôi đã thêm

Mười tám nhà cung cấp miễn phí, lần lượt từng bên: Groq, Gemini, Cerebras, SambaNova, Mistral, Cloudflare Workers AI (hai tài khoản), GitHub Models, Z.ai, OVHcloud, AI Horde, Pollinations, Cohere, Jina, NVIDIA NIM (toàn bộ danh mục mở: Nemotron, Llama, Qwen, gpt-oss, DeepSeek và nhiều hơn nữa), SiliconFlow (DeepSeek-V4, GLM-5.1, Qwen3.5/3.6, Kimi-K2.6, MiniMax-M3), bộ định tuyến HuggingFace và LLM7. Tổng cộng là 190+ dòng mô hình miễn phí: Llama, gpt-oss, Qwen, Mistral, GLM, Nemotron, DeepSeek và nhiều hơn nữa, cùng các mô hình embedding, hình ảnh và âm thanh miễn phí. Mỗi mô hình đều được kiểm tra đầu cuối về HTTP, streaming và gọi công cụ trước khi đưa vào hoạt động, cùng những kiểm tra tính xác thực và kiểm tra khung thử nghiệm mà chúng tôi áp dụng cho các mô hình trả phí.

Miễn phí là có lý do

Những mô hình này thực sự miễn phí, và chính vì thế chúng có giới hạn. Mỗi nguồn thượng nguồn tự áp đặt giới hạn riêng: số yêu cầu mỗi phút, hạn mức token hằng ngày, ngân sách neuron của Cloudflare, mức ưu tiên trong hàng đợi tình nguyện. Chạm trần thì nhà cung cấp đó trả về 429 cho tới khi được đặt lại. Một khóa miễn phí còn hoạt động sáng nay có thể đã cạn kiệt vào buổi chiều. Bậc miễn phí là thông lượng ở mức nỗ lực tối đa, không phải một bảo đảm. Nếu tải công việc của bạn cần độ trễ có thể dự đoán và không có 429 bất ngờ, hãy dùng một mô hình trả phí.

Giới hạn tốc độ của riêng chúng tôi, và vì sao nó tồn tại

Bên trên các mức trần thượng nguồn, chúng tôi thêm một giới hạn nhỏ của riêng mình: một yêu cầu mỗi phút cho mỗi mô hình miễn phí, cho mỗi người dùng. Đây là có chủ đích. Một mô hình miễn phí đơn lẻ thường là một nhóm thượng nguồn dùng chung duy nhất, có lẽ khoảng một triệu token mỗi ngày cho tất cả mọi người cộng lại, nên nếu không có mức trần thì một nhúm người dùng nặng sẽ vét cạn nó trong vài phút và những người còn lại chẳng thấy gì. Một yêu cầu mỗi phút cho mỗi mô hình giữ cho nhóm sống và trải đều khắp cộng đồng, và bạn có thể dàn lưu lượng ra nhiều mô hình miễn phí thay vì dồn dập vào một mô hình. Khi bạn chạm trần của chúng tôi, bạn nhận được một HTTP 429 kèm header Retry-After cho biết chính xác cần chờ bao lâu. Điều này tách biệt với 429 thượng nguồn và với 503 bên dưới. Nếu bạn muốn thông lượng cao hơn trên một mô hình cụ thể, hãy dùng bậc trả phí của nó, nơi giới hạn này không áp dụng.

Tại sao phải gom chúng lại làm gì

Vì lựa chọn còn lại là mười tám tài khoản. Mỗi nhà cung cấp có trang đăng ký riêng, định dạng key riêng, base URL riêng và những điểm oái oăm riêng: Z.ai nói theo đường dẫn Zhipu V4, Cloudflare mang account id trong URL, AI Horde muốn một key ẩn danh, GitHub khóa các mô hình sau phạm vi của token. Chúng tôi gánh hết tất cả những thứ đó để bạn gọi chúng theo đúng cách bạn gọi mọi thứ khác: một endpoint OpenAI-compatible, một key, một tên mô hình. Nguyên tắc thành thật mà chúng tôi tự ràng buộc: một tài khoản thật cho mỗi nhà cung cấp, chấp nhận giới hạn, không gom gặt, không gộp chung. Chúng tôi mở ra gói miễn phí như một món quà, không phải bán lại hạn ngạch của người khác.

Cách chúng tôi làm dịu các giới hạn

Nhiều mô hình trong số này được phục vụ bởi hơn một nhà cung cấp miễn phí. Riêng Llama 3.3 70B chạy trên bảy nhà cung cấp. Khi nhiều nhà cung cấp cùng cung cấp một mô hình, chúng tôi gộp chúng dưới một tên công bố duy nhất và tự động chuyển đổi dự phòng: nếu một nguồn thượng nguồn trả về 429 hoặc im lặng, nhà cung cấp khỏe mạnh kế tiếp phục vụ mô hình đó sẽ nhận yêu cầu. Đó là đòn bẩy duy nhất mà chúng tôi thực sự kiểm soát. Nếu tại một thời điểm mọi nhà cung cấp của một mô hình đều đang bị giới hạn tốc độ, yêu cầu sẽ trả về một HTTP 503 với thông báo rõ ràng "tất cả nhà cung cấp đều bận" (không phải 404, cũng không phải "không tìm thấy mô hình"), và kênh được kiểm tra lại và bật lại trong vài phút bởi cron kiểm tra sức khỏe của chúng tôi. Nhờ vậy, một mô hình miễn phí đa nguồn vẫn tiếp tục trả lời rất lâu sau khi bất kỳ nhà cung cấp nào của nó cạn kiệt. Mô hình miễn phí một nguồn không có phương án dự phòng, nên chúng đình trệ khi nguồn thượng nguồn duy nhất của chúng đã cạn.

Những gì chúng tôi đã không làm

Chúng tôi không thêm reverse proxy phục vụ lại các mô hình hàng đầu của OpenAI hay Claude mà không có phép. Chúng tôi không kéo vào các dịch vụ gom key cá nhân với token không thể chuyển nhượng, hay những dịch vụ pool-of-pools chuyên gom gặt và xoay vòng key của người khác. Chúng tồn tại, chúng đầy cám dỗ, và chúng chính là mớ chợ đen lộn xộn mà gateway này sinh ra để thay thế. Mỗi nhà cung cấp trong danh sách đều cho đi gói miễn phí của mình một cách có chủ đích, theo điều khoản riêng của họ. Nếu một nguồn không vượt qua được ngưỡng đó, nó không có mặt ở đây.

Dùng thử

Toàn bộ hơn 190 mô hình miễn phí đang hoạt động sau một endpoint OpenAI-compatible duy nhất. Lấy một khóa API hoặc duyệt danh mục mô hình và lọc theo miễn phí. Chỉ cần nhớ bạn đang ở bậc nào khi một 429 hoặc 503 xuất hiện.