600개 모델 무료 티어 묶는 라우터 'FreeLLMAPI' 오픈소스 공개

요약

마이크로소프트의 한 개발자가 Claude Code를 통해 월 70억 개 이상의 무료 토큰을 사용할 수 있게 해주는 오픈소스 도구 'FreeLLMAPI'를 공개했다. 이 도구는 Google, Groq, Cerebras, Mistral, Cloudflare 등 30여 개 제공업체의 600개가 넘는 모델을 통합 관리하는 라우터 역할을 수행한다. 사용자는 데스크탑 앱을 설치한 뒤 각 제공업체의 API 키를 입력하면, 모든 OpenAI 클라이언트와 호환되는 단일 /v1 엔드포인트를 통해 모델을 연결할 수 있다. 특정 제공업체의 무료 제한에 도달하면 자동으로 다음 제공업체로 연결되어 끊김 없는 사용이 가능하다. 계정이나 비밀번호 생성 없이 로컬에서 실행되며, 고성능 모델은 일일 사용량 제한이 있으므로 오전 시간대에 우선 사용하는 것이 효율적이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.