Open Source · MIT License · 9.8k Stars

OmniRoute — Um Endpoint, Todos os Provedores de IA

Roteie requisições de IA para 231+ provedores com fallback inteligente e compressão de tokens. Suas ferramentas de código nunca param — mesmo quando um provedor atinge seu limite.

Install OmniRoute in Under 2 Minutes

One command. 231+ AI providers behind a single endpoint on localhost:20128.

Terminal
$ npm i -g omniroute

Then point your coding tools at:

Base URL: http://localhost:20128/v1

OmniRoute is open source (MIT). Also available as Electron desktop app, ARM64 build, Termux, and PWA.

Gerenciar Vários Provedores de IA é um Pesadelo

Rate limits interrompem seu fluxo no meio da sessão. Cotas de assinatura expiram enquanto tokens ficam sem uso em outro provedor. Cada ferramenta exige sua própria configuração de API. OmniRoute elimina esse caos — um gateway local cuida do roteamento, compressão e failover entre todos os provedores automaticamente.

🤖

Instale OmniRoute via npm, Docker ou o app Electron em menos de 2 minutos

❤️

Aponte suas ferramentas — Claude Code, Cursor, Copilot — para localhost:20128

🔮

OmniRoute cuida do roteamento, fallback e compressão de tokens nos bastidores

O que é Exatamente o OmniRoute?

OmniRoute é um gateway de IA local-first que fica entre suas ferramentas de desenvolvimento e provedores de IA como OpenAI, Anthropic, Google e DeepSeek. Em vez de configurar chaves API separadas e gerenciar rate limits para cada ferramenta, você aponta tudo para um único endpoint compatível com OpenAI na sua máquina. O gateway roteia requisições de forma inteligente usando 17 estratégias diferentes — desde custo otimizado até prioridade de qualidade — enquanto comprime tokens e lida com quedas de provedores automaticamente.

Como Funciona o Roteamento Inteligente do OmniRoute?

Quando uma requisição chega, OmniRoute avalia os provedores disponíveis em seis fatores: latência, custo, margem de cota, taxa de erros, capacidade do modelo e tipo de tarefa. Seu motor Auto-Combo encadeia provedores em níveis de fallback — contas de assinatura primeiro, depois chaves API, depois alternativas baratas, depois níveis gratuitos. Se o provedor principal falha ou atinge um rate limit, o gateway muda para o próximo nível em milissegundos sem descartar a requisição. RTK e Caveman reduzem o uso de tokens entre 15 e 95 por cento antes da requisição sequer sair da sua máquina.

Por que Devs Escolhem OmniRoute em vez de Configuração Manual

Nunca Mais Bata numa Parede de Rate Limit

  • Roteamento de fallback automático de 4 níveis
  • Maximização de cotas de assinatura
  • Agregação de 50+ provedores gratuitos
  • Suporte multi-conta em round-robin
  • Pontuação de saúde do provedor em tempo real
  • Proteção por circuit breaker
  • Backoff exponencial com jitter
  • Proteção anti-thundering-herd
  • Garantias de idempotência de requisições
  • Troca de provedor em milissegundos

Reduza Custos de Tokens Sem Mudar Seu Workflow

  • Compressão empilhada RTK mais Caveman
  • Redução de tokens de 15 a 95 por cento
  • Compressão automática de outputs de ferramentas
  • Cache semântico para consultas repetidas
  • Dashboard de rastreamento de custo por token
  • Analytics de comparação de custos de provedores
  • Detalhamento de uso por modelo

Quem Usa OmniRoute no Workflow do Dia a Dia?

Devs solo usam OmniRoute para esticar os níveis gratuitos entre provedores e evitar lock-in de assinatura. Times de engenharia o implantam como gateway de inferência compartilhado com rastreamento centralizado de custos. Startups de IA integram o gateway para abstrair dependências de provedores do código do produto. Qualquer pessoa que trabalhe com múltiplos provedores LLM se beneficia do roteamento unificado e da observabilidade.

  • Devs solo maximizando níveis gratuitos
  • Times de engenharia com roteamento compartilhado
  • Startups de IA abstraindo lock-in de provedores
  • Contribuidores open source com orçamentos apertados
  • Pesquisadores comparando outputs de modelos
  • Times DevOps gerenciando infraestrutura de API
  • Freelancers malabarando projetos de clientes
  • Educadores ensinando desenvolvimento de IA

Open Source, Licença MIT, Impulsionado pela Comunidade

OmniRoute é totalmente open source sob a licença MIT com mais de 9.800 estrelas no GitHub. Originalmente bifurcado de 9router e inspirado em CLIProxyAPI, o projeto cresceu até se tornar um gateway completo com contribuições de centenas de desenvolvedores. Roda inteiramente na sua máquina — nenhum prompt passa por roteadores cloud de terceiros. Seus dados ficam locais, seu roteamento permanece privado.

  • Licença MIT — gratuito para sempre
  • 9.800+ estrelas no GitHub
  • Arquitetura local-first
  • Sem roteamento cloud de terceiros
  • Comunidade ativa de contribuidores
  • Pontuação de provedores transparente
  • Auto-hospedável em qualquer plataforma

Pare de Malabarismo com Chaves API — Roteie com Inteligência

OmniRoute transforma a bagunça multi-provedor em um único endpoint que simplesmente funciona. Instale em dois minutos, aponte suas ferramentas para o localhost, e deixe o gateway fazer o resto. Roteamento inteligente, compressão de tokens e fallback automático — tudo rodando localmente na sua máquina.

OmniRoute — Perguntas Frequentes

Tudo que Você Precisa Saber sobre o Gateway de IA

  • OmniRoute é um gateway de IA open source que unifica o acesso a 231+ provedores de IA através de um único endpoint API compatível com OpenAI. Fica localmente na sua máquina entre suas ferramentas de código e os provedores, cuidando do roteamento de requisições, tradução de formatos, compressão de tokens e failover automático. Pense no gateway como um controlador de tráfego inteligente que garante que suas ferramentas de desenvolvimento nunca parem de funcionar, independente de qual provedor atinja um rate limit ou caia.
  • OmniRoute se diferencia em três áreas principais. Primeiro, oferece compressão empilhada de tokens RTK mais Caveman que economiza de 15 a 95 por cento em requisições elegíveis — nem LiteLLM nem OpenRouter comprimem tokens. Segundo, inclui um servidor MCP embutido com 95 ferramentas e um servidor de protocolo A2A, enquanto concorrentes se limitam a integrações do lado cliente. Terceiro, o gateway suporta 17 estratégias de roteamento contra a abordagem de retry/prioridade do LiteLLM e a seleção de modelo único do OpenRouter. O tradeoff: LiteLLM tem um ecossistema Python maior, e OpenRouter cuida da cobrança de forma centralizada.
  • O gateway suporta 231+ provedores incluindo OpenAI, Anthropic, Google, DeepSeek, Mistral, Cohere, Together AI, Groq, Fireworks e dezenas mais. Mais de 50 desses provedores oferecem níveis gratuitos que o OmniRoute pode agregar — aproximadamente 1,6 bilhão de tokens gratuitos por mês combinados. O gateway traduz formatos de requisições automaticamente, para você acessar Claude, GPT, Gemini e modelos open source pelo mesmo endpoint sem mudar uma linha de código sequer.
  • OmniRoute roda em qualquer lugar que o Node.js rode. O caminho mais rápido é npm: rode 'npm install -g omniroute' e o gateway sobe na porta 20128. Usuários Docker podem puxar a imagem oficial. Usuários de desktop têm um app Electron para Windows, Mac e Linux. Roda até numa Raspberry Pi via suporte ARM64 ou num celular Android pelo Termux. A configuração leva menos de dois minutos independente do método escolhido.
  • Qualquer ferramenta que fale o formato da API OpenAI funciona de cara. Claude Code, Cursor, GitHub Copilot, Cline, Codex, KiloCode, Kiro e Qwen Code se conectam todas apontando a URL base para localhost:20128. O gateway cuida internamente da tradução de formatos entre APIs de provedores, então suas ferramentas não precisam saber qual modelo backend está atendendo a requisição. Configuração em uma linha: defina a URL base e opcionalmente uma chave API pelo dashboard.
  • OmniRoute foi criado por diegosouzapw e é um projeto open source ativo com mais de 9.800 estrelas no GitHub. Começou como um fork do 9router e um port TypeScript do CLIProxyAPI, depois cresceu até se tornar um gateway completo com contribuições de centenas de desenvolvedores. Novas releases saem regularmente — o projeto chegou à versão 3.8 com funcionalidades como compressão empilhada, integração do servidor MCP e suporte ao protocolo A2A. A licença MIT significa que qualquer pessoa pode usar, modificar e distribuir livremente.
  • OmniRoute roda inteiramente na sua máquina local — nenhuma requisição passa por roteadores cloud de terceiros. Suas chaves API ficam armazenadas num banco de dados SQLite local, e toda comunicação com provedores acontece diretamente da sua máquina para a API do provedor. O gateway inclui salvaguardas para detecção de PII e prevenção de injeção de prompts, além de sigilo de fingerprint TLS para usuários em regiões onde serviços de IA enfrentam restrições. Seus prompts, chaves e dados de roteamento nunca saem do seu controle.
  • O gateway brilha quando você depende simultaneamente de múltiplos provedores de IA. Se você coda com Claude Code mas atinge o rate limit da Anthropic, o OmniRoute silenciosamente cai para outro provedor. Se quiser usar modelos caros para tarefas complexas e baratos para consultas simples, o roteamento por tipo de tarefa cuida disso automaticamente. Times usam para rastreamento centralizado de custos de toda a gastura com IA. Devs solo usam para agregar níveis gratuitos. Qualquer pessoa cansada de gerenciar configurações API separadas para cada ferramenta se beneficia de imediato.
  • O gateway adiciona overhead mínimo — tipicamente menos de 10 milissegundos por requisição. Como o OmniRoute roda localmente na sua máquina, não há salto de rede para um proxy na nuvem. A latência economizada ao comprimir tokens frequentemente supera o overhead de roteamento, resultando em tempos de resposta de ponta a ponta mais rápidos comparados a chamadas diretas de API. O cache semântico reduz ainda mais a latência para consultas repetidas ou similares servindo respostas em cache na hora.
  • Sim, o dashboard do OmniRoute suporta 42 locales para sua interface de gerenciamento. O gateway em si é agnóstico a idiomas — roteia requisições independentemente do conteúdo em linguagem natural. Sejam seus prompts em português, chinês, japonês ou qualquer outro idioma, a lógica de roteamento, compressão e fallback funciona de forma idêntica. O dashboard oferece analytics, gerenciamento de provedores e configuração no seu idioma preferido.
  • Sim, OmniRoute é completamente gratuito e open source sob a licença MIT. Não existe nível pago, nenhuma funcionalidade premium atrás de paywall, e nenhum limite de uso imposto pelo próprio gateway. Você traz suas próprias chaves API dos provedores, e o OmniRoute cuida do roteamento. O projeto é impulsionado pela comunidade e financiado por contribuições open source. Você pode auto-hospedá-lo, modificar o código-fonte e implantá-lo do jeito que quiser — para sempre.