Open Source · MIT License · 9.8k Stars

OmniRoute — Un seul endpoint, tous les fournisseurs IA

Routez les requêtes IA vers 231+ fournisseurs avec fallback intelligent et compression de tokens. Vos outils ne s'arrêtent jamais — même quand un fournisseur atteint sa limite.

Install OmniRoute in Under 2 Minutes

One command. 231+ AI providers behind a single endpoint on localhost:20128.

Terminal
$ npm i -g omniroute

Then point your coding tools at:

Base URL: http://localhost:20128/v1

OmniRoute is open source (MIT). Also available as Electron desktop app, ARM64 build, Termux, and PWA.

Gérer plusieurs fournisseurs IA, c'est l'enfer

Les limites de débit brisent votre flux en pleine session. Les quotas d'abonnement expirent pendant que des tokens restent inutilisés ailleurs. Chaque outil exige sa propre clé API. OmniRoute élimine ce chaos — une passerelle locale gère le routage, la compression et le basculement entre tous les fournisseurs automatiquement.

🤖

Installez OmniRoute via npm, Docker ou l'appli Electron en moins de 2 minutes

❤️

Pointez vos outils — Claude Code, Cursor, Copilot — sur localhost:20128

🔮

OmniRoute gère le routage, le fallback et la compression de tokens en coulisses

Qu'est-ce qu'OmniRoute exactement ?

OmniRoute est une passerelle IA local-first qui s'intercale entre vos outils de développement et des fournisseurs comme OpenAI, Anthropic, Google et DeepSeek. Au lieu de configurer des clés API séparées pour chaque outil, vous pointez tout vers un seul endpoint compatible OpenAI sur votre machine. La passerelle route intelligemment les requêtes avec 17 stratégies différentes — du moins cher au meilleur — tout en compressant les tokens et en gérant les pannes automatiquement.

Comment fonctionne le routage intelligent d'OmniRoute ?

À chaque requête, OmniRoute évalue les fournisseurs disponibles selon six critères : latence, coût, quota disponible, taux d'erreur, capacité du modèle et type de tâche. Son moteur Auto-Combo enchaîne les fournisseurs en niveaux de fallback — abonnements d'abord, puis clés API, puis alternatives économiques, puis niveaux gratuits. Si le fournisseur principal échoue ou atteint sa limite, la passerelle bascule en quelques millisecondes sans perdre la requête. RTK et Caveman réduisent l'usage de tokens de 15 à 95 % avant même que la requête ne quitte votre machine.

Pourquoi les développeurs choisissent OmniRoute

Plus jamais de limite de débit

  • Fallback automatique à 4 niveaux
  • Maximisation des quotas d'abonnement
  • Agrégation de 50+ fournisseurs gratuits
  • Support multi-comptes en round-robin
  • Score de santé des fournisseurs en temps réel
  • Protection par disjoncteur
  • Backoff exponentiel avec jitter
  • Protection anti-effet de troupeau
  • Garanties d'idempotence des requêtes
  • Basculement de fournisseur en millisecondes

Réduisez vos coûts sans changer votre workflow

  • Compression RTK + Caveman empilée
  • Réduction de 15 à 95 % des tokens
  • Compression automatique des sorties d'outils
  • Cache sémantique pour requêtes répétées
  • Tableau de bord de suivi du coût par token
  • Analytique comparative des coûts fournisseurs
  • Détail d'utilisation par modèle

Qui utilise OmniRoute au quotidien ?

Les développeurs solo utilisent OmniRoute pour maximiser les niveaux gratuits et éviter la dépendance à un abonnement. Les équipes d'ingénierie le déploient comme passerelle d'inférence partagée avec suivi centralisé des coûts. Les startups IA l'intègrent pour abstraire les dépendances aux fournisseurs de leur code produit. Quiconque travaille avec plusieurs fournisseurs LLM bénéficie d'un routage et d'une observabilité unifiés.

  • Développeurs solo maximisant les niveaux gratuits
  • Équipes d'ingénierie avec routage partagé
  • Startups IA s'affranchissant du lock-in fournisseur
  • Contributeurs open source aux budgets serrés
  • Chercheurs comparant les sorties des modèles
  • Équipes DevOps gérant l'infrastructure API
  • Freelances jonglant entre projets clients
  • Formateurs enseignant le développement IA

Open Source, licence MIT, porté par la communauté

OmniRoute est entièrement open source sous licence MIT avec plus de 9 800 étoiles sur GitHub. Issu d'un fork de 9router et inspiré de CLIProxyAPI, le projet est devenu une passerelle complète avec des contributions de centaines de développeurs. Il tourne entièrement sur votre machine — aucun prompt ne passe par des routeurs cloud tiers. Vos données restent locales, votre routage reste privé.

  • Licence MIT — gratuit pour toujours
  • 9 800+ étoiles GitHub
  • Architecture local-first
  • Aucun routage cloud tiers
  • Communauté de contributeurs active
  • Score des fournisseurs transparent
  • Auto-hébergeable sur toute plateforme

Arrêtez de jongler avec les clés API — routez plus intelligemment

OmniRoute transforme le chaos multi-fournisseurs en un endpoint unique qui fonctionne tout simplement. Installez-le en deux minutes, pointez vos outils sur localhost, et laissez la passerelle faire le reste. Routage intelligent, compression de tokens et fallback automatique — tout ça tourne localement sur votre machine.

OmniRoute — Questions fréquentes

Tout ce que vous devez savoir sur la passerelle IA

  • OmniRoute est une passerelle IA open source qui unifie l'accès à 231+ fournisseurs via un seul endpoint API compatible OpenAI. Elle s'installe localement sur votre machine, entre vos outils de code et les fournisseurs, et gère le routage, la traduction de formats, la compression de tokens et le basculement automatique. Pensez-y comme un contrôleur de trafic intelligent qui garantit que vos outils de développement ne s'arrêtent jamais, quel que soit le fournisseur qui atteint sa limite ou tombe en panne.
  • OmniRoute se distingue sur trois points clés. D'abord, il offre la compression RTK + Caveman empilée qui économise 15 à 95 % sur les requêtes éligibles — ni LiteLLM ni OpenRouter ne compriment les tokens. Ensuite, il inclut un serveur MCP intégré avec 95 outils et un serveur de protocole A2A, là où les concurrents se limitent aux intégrations côté client. Enfin, la passerelle supporte 17 stratégies de routage contre l'approche retry/priorité de LiteLLM et la sélection mono-modèle d'OpenRouter. Contrepartie : LiteLLM dispose d'un écosystème Python plus large, et OpenRouter gère la facturation de manière centralisée.
  • La passerelle supporte 231+ fournisseurs dont OpenAI, Anthropic, Google, DeepSeek, Mistral, Cohere, Together AI, Groq, Fireworks et bien d'autres. Plus de 50 offrent des niveaux gratuits qu'OmniRoute agrège — soit environ 1,6 milliard de tokens gratuits par mois combinés. La passerelle traduit les formats de requêtes automatiquement, vous permettant d'accéder à Claude, GPT, Gemini et des modèles open source via le même endpoint sans changer une ligne de code.
  • OmniRoute fonctionne partout où Node.js tourne. Le plus rapide : npm — lancez 'npm install -g omniroute' et la passerelle démarre sur le port 20128. Les utilisateurs Docker peuvent tirer l'image officielle. Les utilisateurs desktop ont une appli Electron pour Windows, Mac et Linux. Il tourne même sur Raspberry Pi via ARM64 ou sur Android via Termux. L'installation prend moins de deux minutes quelle que soit la méthode choisie.
  • Tout outil parlant le format API OpenAI fonctionne d'emblée. Claude Code, Cursor, GitHub Copilot, Cline, Codex, KiloCode, Kiro et Qwen Code se connectent en pointant leur URL de base sur localhost:20128. La passerelle gère la traduction de formats entre les API fournisseurs en interne — vos outils n'ont pas besoin de savoir quel modèle répond réellement. Configuration en une ligne : définissez l'URL de base et optionnellement une clé API depuis le tableau de bord.
  • OmniRoute a été créé par diegosouzapw et est un projet open source actif avec plus de 9 800 étoiles GitHub. Il a démarré comme un fork de 9router et un port TypeScript de CLIProxyAPI, puis est devenu une passerelle complète avec des contributions de centaines de développeurs. De nouvelles versions sortent régulièrement — le projet a atteint la version 3.8 avec la compression empilée, l'intégration du serveur MCP et le support du protocole A2A. La licence MIT permet à quiconque de l'utiliser, modifier et distribuer librement.
  • OmniRoute tourne entièrement sur votre machine locale — aucune requête ne passe par un routeur cloud tiers. Vos clés API sont stockées dans une base de données SQLite locale, et toute communication avec les fournisseurs se fait directement de votre machine vers leur API. La passerelle inclut des garde-fous pour la détection de PII et la prévention des injections de prompts, ainsi qu'une discrétion d'empreinte TLS pour les régions où les services IA sont restreints. Vos prompts, clés et données de routage ne quittent jamais votre contrôle.
  • La passerelle excelle quand vous dépendez simultanément de plusieurs fournisseurs IA. Si vous codez avec Claude Code et atteignez la limite d'Anthropic, OmniRoute bascule silencieusement vers un autre fournisseur. Si vous voulez des modèles coûteux pour les tâches complexes et bon marché pour les requêtes simples, le routage contextuel gère ça automatiquement. Les équipes l'utilisent pour le suivi centralisé des coûts. Les développeurs solo agrègent les niveaux gratuits. Quiconque en a assez de gérer des configurations API séparées en bénéficie immédiatement.
  • La passerelle ajoute une surcharge minimale — généralement moins de 10 millisecondes par requête. OmniRoute tournant localement, il n'y a aucun saut réseau vers un proxy cloud. La latence économisée grâce à la compression de tokens dépasse souvent la surcharge de routage, résultant en des temps de réponse de bout en bout plus rapides que les appels API directs. Le cache sémantique réduit encore la latence pour les requêtes répétées en servant des réponses en cache instantanément.
  • Oui, le tableau de bord OmniRoute supporte 42 locales pour son interface de gestion. La passerelle elle-même est agnostique au langage — elle route les requêtes indépendamment du contenu en langue naturelle. Que vos prompts soient en français, chinois, japonais ou toute autre langue, la logique de routage, compression et fallback fonctionne de manière identique. Le tableau de bord offre analytics, gestion des fournisseurs et configuration dans votre langue préférée.
  • Oui, OmniRoute est entièrement gratuit et open source sous licence MIT. Il n'existe aucun niveau payant, aucune fonctionnalité premium derrière un paywall, et aucune limite d'usage imposée par la passerelle elle-même. Vous apportez vos propres clés API des fournisseurs, et OmniRoute gère le routage. Le projet est porté par la communauté et financé par les contributions open source. Vous pouvez l'auto-héberger, modifier le code source et le déployer comme vous voulez — pour toujours.