O FreeLLMAPI é realmente gratuito?

Sim. Ele agrega as tiers gratuitas de 14 provedores de IA — você não paga nada pelo proxy em si. Cada provedor oferece uma cota gratuita (geralmente limitada por RPM/RPD/TPM), e o FreeLLMAPI gerencia essas cotas com failover automático. O custo é zero para uso pessoal. Se você precisar de mais capacidade, configure chaves pagas nos provedores — o proxy funciona com qualquer chave, gratuita ou paga.

Quais modelos de IA estão disponíveis no FreeLLMAPI?

A lista inclui Gemini 2.5 Flash (Google), Llama 3.3 e Llama 4 (Groq), Qwen3 235B (Cerebras), DeepSeek V3.x (SambaNova), Mistral Large 3 e Codestral (Mistral), 21 modelos free-tier via OpenRouter, GPT-4.1 e GPT-4o (GitHub Models), Kimi K2 (Cloudflare), Command R+ (Cohere), GLM-4.5 e GLM-4.7 Flash (Z.ai/Zhipu), e NVIDIA NIM. Modelos de fronteira como GPT-5 ou Claude Opus não estão disponíveis nas tiers gratuitas.

Posso usar o FreeLLMAPI em produção?

O projeto é explicitamente local-first e single-user — o README recomenda não expor à internet. Para produção com SLA, use um provedor pago com contrato. O FreeLLMAPI é ideal para protótipos, experimentação, agentes pessoais e tarefas batch onde latência variável e disponibilidade intermitente são aceitáveis.

Como o FreeLLMAPI se compara ao OpenRouter?

O OpenRouter é um serviço comercial que também agrega múltiplos provedores, mas é hospedado e cobra por token. O FreeLLMAPI é self-hosted e gratuito — você mantém as chaves dos provedores no seu próprio hardware, com criptografia local. O trade-off é que você gerencia a infraestrutura (um processo Node.js de 40 MB), mas não paga nada pelo roteamento.

O FreeLLMAPI suporta function calling / tool use?

Sim. O proxy faz round-trip de tool calls entre o formato OpenAI e formatos específicos de cada provedor — por exemplo, traduz functionDeclarations do Google para o formato OpenAI quando roteia via Gemini, e vice-versa. Isso significa que agentes que usam tool calling via SDK da OpenAI funcionam sem modificação.

FreeLLMAPI: O Hub que Conecta 14 APIs de IA Gratuitas em um Único Endpoint OpenAI-Compatible

1.3 bilhão de tokens por mês. De graça. Esse é o volume agregado que o FreeLLMAPI entrega ao juntar as tiers gratuitas de 14 provedores de IA diferentes atrás de um único endpoint compatível com a API da OpenAI. Na prática, você troca 14 chaves de API, 14 SDKs e 14 dashboards por uma URL local e um token bearer. Para devs que usam modelos de linguagem em tarefas agenticas, protótipos ou experimentos, isso muda o cálculo de custo — de "quanto vou gastar esse mês" para "qual modelo está disponível agora".

O que é o FreeLLMAPI e como ele funciona

O projeto, criado por Tashfeen Ahmed e com 5.300+ estrelas no GitHub, é um proxy Express que expõe os endpoints /v1/chat/completions e /v1/models no formato OpenAI-compatible. Você aponta qualquer SDK — o oficial da OpenAI, LangChain, LlamaIndex, Continue, Hermes — para http://localhost:3001/v1 e o FreeLLMAPI decide para qual provedor rotear a requisição.

A arquitetura tem cinco componentes: um proxy Express (porta 3001), um roteador que escolhe o modelo de maior prioridade com chave saudável, um ledger de rate limits em SQLite que rastreia RPM/RPD/TPM/TPD por chave, adaptadores por provedor (um arquivo TypeScript por plataforma) e um dashboard administrativo em React com shadcn/ui. As chaves de API dos provedores são armazenadas com criptografia AES-256-GCM antes de tocar o SQLite — são descriptografadas em memória só no momento do uso.

Os 14 provedores e o volume absurdo de tokens gratuitos

O lineup de provedores é o ponto forte do projeto. A lista atual inclui Google (Gemini 2.5 Flash, 3.x previews), Groq (Llama 3.3, Llama 4, Qwen3), Cerebras (Qwen3 235B), SambaNova (DeepSeek V3.x, Llama 4), Mistral (Large 3, Codestral), OpenRouter (21 modelos free-tier), GitHub Models (GPT-4.1, GPT-4o), Cloudflare (Kimi K2, GLM-4.7), Cohere (Command R+), Z.ai/Zhipu (GLM-4.5, GLM-4.7 Flash) e NVIDIA NIM. O autor estima 1.3 bilhão de tokens por mês de capacidade agregada — sem custo.

Isso não significa que você vai rodar GPT-5 de graça. As tiers gratuitas não incluem modelos de fronteira — o teto fica em torno de Llama 3.3 70B, GLM-4.5 e Gemini 2.5 Pro. A qualidade do output varia conforme o horário: os melhores modelos esgotam os limites diários primeiro, e o roteador cai para alternativas mais fracas. Às 23h UTC os contadores resetam e o ciclo recomeça.

Failover automático: o verdadeiro diferencial técnico

O que separa o FreeLLMAPI de um simples agregador de APIs é o sistema de roteamento com failover. Quando você envia uma requisição, o roteador segue uma corrente de fallback configurável: procura o modelo de maior prioridade cuja chave esteja saudável e abaixo de todos os limites de rate. Se o provedor retornar 429 (rate limit), 5xx ou timeout, a chave entra em cooldown e a requisição é reencaminhada para o próximo modelo da corrente — até 20 tentativas.

Cada resposta inclui o header X-Routed-Via (ex: groq/meta-llama/llama-4-scout-17b-16e-instruct) e, quando há fallback, X-Fallback-Attempts. Isso elimina a adivinhação sobre qual provedor está respondendo. Outro detalhe importante: sticky sessions de 30 minutos mantêm conversas multi-turn no mesmo modelo, evitando a troca de contexto no meio de um raciocínio — o que o autor chama de "prevenção de pico de alucinação por troca de modelo".

O projeto tem 75 testes com vitest, implementa tanto streaming (SSE) quanto non-streaming em todos os adaptadores, e traduz tool calls do formato OpenAI para o formato Google (functionDeclarations) quando roteia para Gemini — ida e volta. É mais polido do que o "protótipo de fim de semana" que o README modestamente sugere.

Por que isso importa para devs

Na minha visão, o FreeLLMAPI resolve três dores reais de quem constrói com IA:

(1) Fragmentação de chaves. Cada provedor tem seu próprio formato de API key, seu próprio SDK, seu próprio dashboard de billing. O FreeLLMAPI consolida isso em uma chave unificada no formato freellmapi-.... Você gerencia 14 provedores sem nunca expor as chaves individuais no seu código de aplicação — elas ficam criptografadas no SQLite local.

(2) Resiliência sem complexidade. Se você depende de um único provedor gratuito e ele muda a política de rate limit (o que acontece com frequência), seu agente para de funcionar. Com o FreeLLMAPI, 13 outros provedores absorvem a queda — o failover é transparente para o código da aplicação.

(3) Custo zero para experimentação. A maioria dos devs subestima quantos tokens queima em prototipagem — testando prompts, iterando em tool calls, depurando agentes. Com 1.3 bilhão de tokens/mês em free tiers, você dificilmente esgota a cota em uso pessoal. E se esgotar, o pior cenário é esperar o reset de meia-noite UTC — você não recebe fatura surpresa.

Dito isso, o FreeLLMAPI não substitui uma API paga para produção. O projeto é explícito sobre isso: é local-first, single-user, sem SLA. Se você precisa de latência previsível ou garantia de uptime, contrate um provedor com contrato. Para agentes pessoais, protótipos, tarefas batch e experimentação, o custo-benefício é imbatível.

Como subir o FreeLLMAPI em 2 minutos

O setup é direto. Node 20+, git clone, npm install, gera uma encryption key, sobe: npm run dev sobe o proxy na porta 3001 e o dashboard na 5173. O dashboard tem modo escuro, gerenciamento de chaves, reordenação da corrente de fallback e analytics com janelas de 24h, 7d e 30d.

Para usar com Python, basta apontar o SDK da OpenAI para localhost: OpenAI(base_url="http://localhost:3001/v1", api_key="freellmapi-sua-chave"). Funciona com streaming, tool calling e qualquer modelo registrado no roteador. O parâmetro model="auto" deixa o roteador escolher; você também pode especificar um modelo exato como "gemini-2.5-flash". O consumo de memória em idle é de ~40 MB RSS — insignificante para deixar rodando em background.

Conclusão

O FreeLLMAPI é o tipo de projeto que faz você se perguntar por que não existia antes: 14 provedores, 1.3 bilhão de tokens grátis por mês, failover automático, criptografia de chaves, dashboard administrativo — tudo em 40 MB de RAM com licença MIT. Não substitui uma API paga em produção, mas para agentes pessoais e experimentação é a melhor relação custo-benefício que já vi no ecossistema open-source de IA. O repositório está em github.com/tashfeenahmed/freellmapi com 5.300+ estrelas e 12 contribuidores — mais um sinal de que a comunidade de IA open-source está resolvendo o problema de acesso antes que as big techs percebam que deveriam cobrar por isso.