약 50개 제공업체의 130개 이상 무료 AI 모델을 하나의 엔드포인트로 통합했습니다

UnoRouter은 약 50개 업스트림 제공업체의 무료 채널을 130개 이상의 모델로 통합하여, 하나의 키로 진정한 무료 티어를 제공합니다. 각 무료 모델은 사용자당 분당 약 1회 요청을 허용하며, 한도 초과 시 Retry-After 헤더와 함께 HTTP 429가 반환됩니다. 풀이 소진되면 모든 제공업체가 사용 중이라는 명시적 오류가 반환되고 자동으로 복구됩니다. 유료 모델은 $1부터 종량제로 청구됩니다.

무료 LLM 생태계는 실재하지만 파편화되어 있습니다. NVIDIA, Cloudflare, Gemini, Mistral, Z.ai, ModelScope 등 수십 개의 서비스가 각자의 가입 페이지, 키 형식, 호환되지 않는 API 뒤에서 실제 용량을 무료로 제공하고 있습니다. 저희는 영구 무료 제공업체를 모두 찾아 테스트한 후 UnoRouter에 통합했습니다. 결과적으로 약 50개 제공업체의 130개 이상 무료 모델을 하나의 OpenAI 호환 엔드포인트와 하나의 키로 사용할 수 있습니다.

우리가 추가한 것

하나씩 추가한 약 50개의 무료 제공업체입니다. NVIDIA NIM, Cloudflare Workers AI, Gemini, Mistral, Z.ai, ModelScope 같은 공식 무료 티어, 오픈 모델 호스트 및 라우터, Gonka와 AI Horde 같은 커뮤니티 네트워크, 그리고 자체 어댑터로 연결한 무료 웹 서비스가 포함됩니다. 총 130개 이상의 무료 모델로 GLM, DeepSeek, Gemini, MiniMax, Qwen, gpt-oss, Nemotron, Llama 등과 무료 이미지 및 오디오 모델도 있습니다. 모든 모델은 라이브 적용 전에 HTTP, 스트리밍, 툴 콜 전 과정을 검증하며, 유료 모델에 적용하는 동일한 진위 확인 절차로 실제와 다른 모델을 제공하는 업체를 걸러냅니다.

무료인 데는 이유가 있습니다

이 모델들은 진짜로 무료이며, 바로 그래서 한도가 있습니다. 각 상위 제공자는 저마다의 한도를 적용합니다. 분당 요청 수, 일일 토큰 할당량, Cloudflare 뉴런 예산, 자원봉사 대기열 우선순위 등입니다. 상한에 도달하면 그 제공자는 초기화될 때까지 429를 반환합니다. 오늘 아침에 작동하던 무료 키가 오후에는 소진될 수 있습니다. 무료 등급은 보장이 아니라 최선 노력 처리량입니다. 워크로드에 예측 가능한 지연 시간과 예기치 않은 429가 없어야 한다면 유료 모델을 사용하세요.

우리 자체 속도 제한과 그것이 존재하는 이유

상위 제공자의 상한 위에 우리는 작은 자체 제한을 더합니다. 사용자별, 무료 모델별로 분당 1회 요청입니다. 이는 의도적입니다. 하나의 무료 모델은 흔히 모두를 합쳐 하루에 대략 100만 토큰 정도인 단일 공유 상위 풀인 경우가 많아서, 상한이 없으면 소수의 헤비 유저가 몇 분 만에 고갈시켜 나머지 모두는 아무것도 얻지 못할 것입니다. 모델별 분당 1회는 풀을 살아 있게 유지하고 커뮤니티 전체에 고르게 퍼뜨리며, 여러분은 하나의 모델을 두드리는 대신 트래픽을 여러 무료 모델에 분산할 수 있습니다. 우리 상한에 도달하면 정확히 얼마나 기다려야 하는지 알려주는 Retry-After 헤더와 함께 HTTP 429를 받습니다. 이는 상위 제공자의 429 및 아래의 503과는 별개입니다. 특정 모델에서 더 높은 처리량을 원한다면 이 제한이 적용되지 않는 해당 모델의 유료 등급을 사용하세요.

왜 굳이 통합했을까요

대안은 50개의 계정을 만드는 것이기 때문입니다. 제공업체마다 별도의 가입 절차, 키 형식, 기본 URL, 그리고 고유한 특성이 있습니다. 자체 API 방언을 사용하는 곳도 있고, URL에 계정 ID가 포함된 곳도 있으며, 웹 채팅으로만 존재하는 곳도 있습니다. 저희가 이 모든 것을 처리했으니, 다른 서비스와 동일한 방식으로 호출하면 됩니다. 하나의 OpenAI 호환 엔드포인트, 하나의 키, 그리고 모델 이름만 있으면 됩니다. 무료 모델은 $0이고 저희는 수수료를 받지 않습니다. 유료 모델이 서비스 운영을 지탱합니다.

우리가 제한을 완화하는 방법

이 모델들 중 다수는 둘 이상의 무료 제공자가 서비스합니다. Llama 3.3 70B 하나만 해도 그중 일곱 곳에서 돌아갑니다. 여러 제공자가 같은 모델을 제공하면 우리는 이들을 하나의 게시 이름으로 묶고 자동으로 페일오버합니다. 한 상위 제공자가 429를 반환하거나 조용해지면, 그 모델을 서비스하는 다음의 정상 제공자가 요청을 넘겨받습니다. 이것이 우리가 실제로 제어하는 유일한 지렛대입니다. 어느 순간 한 모델의 모든 제공자가 일시적으로 속도 제한에 걸리면, 요청은 명시적인 "모든 제공자가 사용 중"이라는 메시지와 함께 HTTP 503을 반환하며(404도 아니고 "모델을 찾을 수 없음"도 아닙니다), 채널은 우리의 상태 점검 cron에 의해 몇 분 내에 재테스트되고 다시 활성화됩니다. 그래서 다중 소스 무료 모델은 제공자 중 어느 하나가 소진된 뒤에도 오랫동안 계속 응답합니다. 단일 소스 무료 모델은 대체가 없어서, 유일한 상위 제공자가 바닥나면 멈춥니다.

무료 모델의 실제 출처

모든 소스가 공식 무료 API는 아니며, 사용자가 그대로 추정하게 두기보다 솔직히 말씀드리고자 합니다. 무료 카탈로그의 일부는 제공사의 공개 무료 티어에서 제공됩니다. 일부는 무료 추론을 제공하는 커뮤니티 네트워크에서 제공됩니다. 일부는 무료 웹 채팅에서 제공되며, 해당 서비스가 이런 용도를 위해 만든 것은 아니지만 자체 어댑터를 통해 연결합니다. 일부 제공사에서는 부하를 분산하기 위해 여러 계정을 운영합니다. 제공사가 중단을 요청하면 중단합니다. 9월에는 모델 소유자가 연락한 뒤 몇 시간 만에 해당 모델을 제거했습니다. 공식적이고 안정적인 소스가 필요한 작업이라면 유료 모델이나 제공사의 자체 API를 사용하세요.

직접 사용해 보세요

130개 이상의 무료 모델 전체가 하나의 OpenAI 호환 엔드포인트 뒤에서 운영되고 있습니다. API 키 발급하기 또는 모델 카탈로그 둘러보기에서 무료로 필터링해 보세요. 429나 503이 뜰 때 어떤 티어를 사용 중인지 잊지 마세요.