Chúng tôi tổng hợp hơn 130 mô hình AI miễn phí từ khoảng 50 nhà cung cấp vào một endpoint duy nhất

UnoRouter tổng hợp các luồng miễn phí từ khoảng 50 nhà cung cấp thượng nguồn thành hơn 130 mô hình với gói miễn phí thực sự đứng sau một key duy nhất. Mỗi mô hình miễn phí cho phép khoảng 1 yêu cầu mỗi phút mỗi người dùng; khi đạt giới hạn sẽ trả về HTTP 429 kèm header Retry-After, và các pool đã cạn sẽ trả về lỗi rõ ràng all providers busy rồi tự động phục hồi. Các mô hình trả phí tính phí theo mức sử dụng từ $1.

Thị trường LLM miễn phí là có thật nhưng rất phân tán: NVIDIA, Cloudflare, Gemini, Mistral, Z.ai, ModelScope và hàng chục nhà cung cấp khác đều cung cấp dung lượng thực sự miễn phí, nhưng đứng sau đó là hàng chục trang đăng ký, định dạng key khác nhau và các API không tương thích nhau. Chúng tôi đã khám phá, kiểm thử và hợp nhất mọi nhà cung cấp miễn phí vĩnh viễn mà chúng tôi tìm được vào UnoRouter. Kết quả: hơn 130 mô hình miễn phí từ khoảng 50 nhà cung cấp, đứng sau một endpoint tương thích OpenAI và một key duy nhất.

Những gì chúng tôi đã thêm

Khoảng năm mươi nhà cung cấp miễn phí, được thêm vào từng cái một: các gói miễn phí chính thức như NVIDIA NIM, Cloudflare Workers AI, Gemini, Mistral, Z.ai và ModelScope; các host và router mô hình mở; các mạng cộng đồng như Gonka và AI Horde; và các sản phẩm web miễn phí mà chúng tôi kết nối qua adapter riêng. Tất cả là hơn 130 mô hình miễn phí: GLM, DeepSeek, Gemini, MiniMax, Qwen, gpt-oss, Nemotron, Llama và nhiều hơn nữa, cùng các mô hình hình ảnh và âm thanh miễn phí. Mỗi mô hình đều được kiểm tra từ đầu đến cuối về HTTP, streaming và tool call trước khi đưa vào hoạt động, và các kiểm tra xác thực tương tự mà chúng tôi áp dụng cho mô hình trả phí cũng giúp phát hiện các nhà cung cấp phục vụ mô hình khác với mô hình họ tuyên bố.

Miễn phí là có lý do

Những mô hình này thực sự miễn phí, và chính vì thế chúng có giới hạn. Mỗi nguồn thượng nguồn tự áp đặt giới hạn riêng: số yêu cầu mỗi phút, hạn mức token hằng ngày, ngân sách neuron của Cloudflare, mức ưu tiên trong hàng đợi tình nguyện. Chạm trần thì nhà cung cấp đó trả về 429 cho tới khi được đặt lại. Một khóa miễn phí còn hoạt động sáng nay có thể đã cạn kiệt vào buổi chiều. Bậc miễn phí là thông lượng ở mức nỗ lực tối đa, không phải một bảo đảm. Nếu tải công việc của bạn cần độ trễ có thể dự đoán và không có 429 bất ngờ, hãy dùng một mô hình trả phí.

Giới hạn tốc độ của riêng chúng tôi, và vì sao nó tồn tại

Bên trên các mức trần thượng nguồn, chúng tôi thêm một giới hạn nhỏ của riêng mình: một yêu cầu mỗi phút cho mỗi mô hình miễn phí, cho mỗi người dùng. Đây là có chủ đích. Một mô hình miễn phí đơn lẻ thường là một nhóm thượng nguồn dùng chung duy nhất, có lẽ khoảng một triệu token mỗi ngày cho tất cả mọi người cộng lại, nên nếu không có mức trần thì một nhúm người dùng nặng sẽ vét cạn nó trong vài phút và những người còn lại chẳng thấy gì. Một yêu cầu mỗi phút cho mỗi mô hình giữ cho nhóm sống và trải đều khắp cộng đồng, và bạn có thể dàn lưu lượng ra nhiều mô hình miễn phí thay vì dồn dập vào một mô hình. Khi bạn chạm trần của chúng tôi, bạn nhận được một HTTP 429 kèm header Retry-After cho biết chính xác cần chờ bao lâu. Điều này tách biệt với 429 thượng nguồn và với 503 bên dưới. Nếu bạn muốn thông lượng cao hơn trên một mô hình cụ thể, hãy dùng bậc trả phí của nó, nơi giới hạn này không áp dụng.

Tại sao phải gom chúng lại làm gì

Bởi vì thay thế duy nhất là quản lý năm mươi tài khoản. Mỗi nhà cung cấp có trang đăng ký riêng, định dạng key riêng, base URL riêng và đặc thù riêng: một số dùng ngôn ngữ API của họ, một số nhúng account id vào URL, một số chỉ tồn tại dưới dạng web chat. Chúng tôi xử lý tất cả những điều đó để bạn gọi chúng theo cách bạn gọi mọi thứ khác: một endpoint tương thích OpenAI, một key, một tên mô hình. Mô hình miễn phí không tốn $0 và chúng tôi không lấy hoa hồng từ chúng; các mô hình trả phí mới là thứ giúp chúng tôi duy trì hoạt động.

Cách chúng tôi làm dịu các giới hạn

Nhiều mô hình trong số này được phục vụ bởi hơn một nhà cung cấp miễn phí. Riêng Llama 3.3 70B chạy trên bảy nhà cung cấp. Khi nhiều nhà cung cấp cùng cung cấp một mô hình, chúng tôi gộp chúng dưới một tên công bố duy nhất và tự động chuyển đổi dự phòng: nếu một nguồn thượng nguồn trả về 429 hoặc im lặng, nhà cung cấp khỏe mạnh kế tiếp phục vụ mô hình đó sẽ nhận yêu cầu. Đó là đòn bẩy duy nhất mà chúng tôi thực sự kiểm soát. Nếu tại một thời điểm mọi nhà cung cấp của một mô hình đều đang bị giới hạn tốc độ, yêu cầu sẽ trả về một HTTP 503 với thông báo rõ ràng "tất cả nhà cung cấp đều bận" (không phải 404, cũng không phải "không tìm thấy mô hình"), và kênh được kiểm tra lại và bật lại trong vài phút bởi cron kiểm tra sức khỏe của chúng tôi. Nhờ vậy, một mô hình miễn phí đa nguồn vẫn tiếp tục trả lời rất lâu sau khi bất kỳ nhà cung cấp nào của nó cạn kiệt. Mô hình miễn phí một nguồn không có phương án dự phòng, nên chúng đình trệ khi nguồn thượng nguồn duy nhất của chúng đã cạn.

Các mô hình miễn phí thực sự đến từ đâu

Không phải mọi nguồn đều là API miễn phí chính thức, và chúng tôi thà nói rõ điều đó còn hơn để bạn tự mặc định như vậy. Một phần danh mục miễn phí đến từ các gói miễn phí công khai của nhà cung cấp. Một phần đến từ các mạng lưới cộng đồng cung cấp khả năng suy luận miễn phí. Một phần đến từ các web chat miễn phí mà chúng tôi kết nối thông qua adapter riêng của mình, vốn không được các dịch vụ đó thiết kế cho kiểu sử dụng này. Ở một số nhà cung cấp, chúng tôi vận hành nhiều hơn một tài khoản để phân tán tải. Khi nhà cung cấp yêu cầu dừng lại, chúng tôi dừng ngay: vào tháng 9, chúng tôi đã gỡ bỏ một mô hình chỉ trong vài giờ sau khi chủ sở hữu của mô hình đó liên hệ với chúng tôi. Nếu công việc của bạn cần một nguồn chính thức và ổn định, hãy sử dụng các mô hình trả phí hoặc API riêng của nhà cung cấp.

Dùng thử

Tất cả hơn 130 mô hình miễn phí đều hoạt động sau một endpoint tương thích OpenAI. Lấy API key hoặc duyệt danh mục mô hình và lọc theo miễn phí. Chỉ cần nhớ bạn đang dùng gói nào khi gặp lỗi 429 hoặc 503.