Open Source · MIT License · 9.8k Stars

OmniRoute — 1つのEndpointで、すべてのAIプロバイダーへ

231以上のプロバイダーへのAIリクエストをスマートなfallbackとtoken圧縮でルーティング。プロバイダーが制限に達しても、コーディングツールは止まらない。

Install OmniRoute in Under 2 Minutes

One command. 231+ AI providers behind a single endpoint on localhost:20128.

Terminal
$ npm i -g omniroute

Then point your coding tools at:

Base URL: http://localhost:20128/v1

OmniRoute is open source (MIT). Also available as Electron desktop app, ARM64 build, Termux, and PWA.

複数のAIプロバイダー管理は悪夢だ

rate limitがセッション途中でフローを断ち切る。サブスクリプションのクォータが切れる一方、他のプロバイダーではtokenが使われないまま残る。コーディングツールごとに別々のAPI設定が必要。OmniRouteはこの混乱を一掃します — ローカルゲートウェイ1つで、すべてのプロバイダーのルーティング・圧縮・failoverを自動処理。

🤖

npm、Docker、またはElectronデスクトップアプリでOmniRouteを2分以内にインストール

❤️

Claude Code、Cursor、Copilotなどのツールをlocalhost:20128に向ける

🔮

OmniRouteがプロバイダールーティング・fallback・token圧縮をすべて裏で処理

OmniRouteとは何か?

OmniRouteはlocal-firstのAIゲートウェイで、開発ツールとOpenAI・Anthropic・Google・DeepSeekなどのAIプロバイダーの間に入ります。ツールごとにAPIキーを設定してrate limitを個別管理する代わりに、マシン上の単一OpenAI互換endpointにすべてを向けるだけ。ゲートウェイは17の異なる戦略 — コスト最適から品質優先まで — でリクエストをインテリジェントにルーティングし、tokenを圧縮し、プロバイダー障害を自動処理します。

OmniRouteのスマートルーティングの仕組みは?

リクエストが届くと、OmniRouteは6つの要素で利用可能なプロバイダーを採点します:レイテンシ、コスト、クォータの余裕、エラー率、モデル能力、タスクタイプ。Auto-Comboエンジンはプロバイダーをfallbackティアにチェーン化します — まずサブスクリプションアカウント、次にAPIキー、次に安価な代替、最後に無料ティア。メインのプロバイダーが失敗するかrate limitに達すると、ゲートウェイはリクエストを落とさずミリ秒単位で次のティアへ切り替えます。RTKとCavemanの圧縮はリクエストがマシンを離れる前にtoken使用量を15〜95%削減します。

開発者がOmniRouteを選ぶ理由

rate limitの壁に二度とぶつからない

  • 4段階自動fallbackルーティング
  • サブスクリプションクォータの最大活用
  • 50以上の無料ティアプロバイダーの集約
  • ラウンドロビン・マルチアカウントサポート
  • プロバイダーヘルスのリアルタイムスコアリング
  • サーキットブレーカー保護
  • ジッター付き指数バックオフ
  • アンチサンダリングハード保護
  • リクエスト冪等性の保証
  • ミリ秒単位のプロバイダー切り替え

ワークフローを変えずにtoken費用を大幅削減

  • RTK+Caveman重畳圧縮
  • 15〜95%のtoken削減
  • ツール出力の自動圧縮
  • 繰り返しクエリのセマンティックキャッシュ
  • token単価追跡ダッシュボード
  • プロバイダーコスト比較アナリティクス
  • モデル別使用量の内訳

日常のワークフローでOmniRouteを使うのは誰?

ソロ開発者はOmniRouteを使ってプロバイダー間で無料ティアを最大限活用し、サブスクリプションの縛りを回避します。エンジニアリングチームはコスト一元管理付きの共有推論ゲートウェイとしてデプロイします。AIスタートアップはプロダクトコードからプロバイダー依存を抽象化するためにゲートウェイを組み込みます。複数のLLMプロバイダーで作業する人は誰でも、統合されたルーティングと可観測性から恩恵を受けます。

  • 無料ティアを最大活用するソロ開発者
  • 共有ルーティングが必要なエンジニアリングチーム
  • プロバイダーlock-inを抽象化するAIスタートアップ
  • 予算が限られたオープンソース貢献者
  • モデル出力を比較する研究者
  • APIインフラを管理するDevOpsチーム
  • クライアント案件を掛け持ちするフリーランサー
  • AI開発を教える教育者

オープンソース・MITライセンス・コミュニティ主導

OmniRouteはMITライセンスの完全オープンソースで、GitHubに9,800以上のスターを持ちます。9routerのフォークとしてCLIProxyAPIにインスパイアされスタートし、数百人の開発者の貢献によって包括的なゲートウェイへと成長しました。完全にあなたのマシン上で動作 — プロンプトがサードパーティのクラウドルーターを通ることはありません。データはローカルに残り、ルーティングはプライベートのまま。

  • MITライセンス — 永久無料
  • GitHubスター9,800以上
  • ローカルファーストアーキテクチャ
  • サードパーティクラウドルーティングなし
  • 活発なコントリビューターコミュニティ
  • 透明なプロバイダースコアリング
  • あらゆるプラットフォームでセルフホスト可能

APIキーの管理から解放されて、スマートにルーティングを

OmniRouteはマルチプロバイダーの混乱を、ただ機能する単一のendpointに変えます。2分でインストールして、ツールをlocalhostに向けて、あとはゲートウェイに任せるだけ。スマートルーティング・token圧縮・自動fallback — すべてあなたのマシン上でローカルに動作。

OmniRoute — よくある質問

AIゲートウェイについて知っておくべきすべて

  • OmniRouteは、単一のOpenAI互換APIエンドポイントを通じて231以上のAIプロバイダーへのアクセスを統合するオープンソースAIゲートウェイです。コーディングツールとプロバイダーの間でマシン上にローカルに座り、リクエストルーティング・フォーマット変換・token圧縮・自動failoverを処理します。このゲートウェイはインテリジェントなトラフィックコントローラーのようなもので、どのプロバイダーがrate limitに達しても、あるいはダウンしても、AI搭載の開発ツールが停止しないことを保証します。
  • OmniRouteは3つの重要な点で差別化されています。第一に、対象リクエストで15〜95%節約できるRTK+Caveman重畳token圧縮を提供します — LiteLLMもOpenRouterもtokenをまったく圧縮しません。第二に、95ツールを持つ組み込みMCPサーバーとA2Aプロトコルサーバーを含みます。一方、競合はクライアントサイドの統合に限られます。第三に、LiteLLMのリトライ/優先度アプローチやOpenRouterの単一モデル選択と比べて、17のルーティング戦略をサポートします。トレードオフ:LiteLLMはPythonエコシステムが広く、OpenRouterは請求を一元管理します。
  • ゲートウェイはOpenAI、Anthropic、Google、DeepSeek、Mistral、Cohere、Together AI、Groq、Fireworks、その他多数を含む231以上のプロバイダーをサポートします。50以上のプロバイダーが無料ティアを提供しており、OmniRouteはこれを集約できます — 合計で月あたり約16億の無料token。ゲートウェイはリクエストフォーマットを自動変換するので、コードを1行も変えずに同じendpointでClaude・GPT・Gemini・オープンソースモデルにアクセスできます。
  • OmniRouteはNode.jsが動く場所ならどこでも動きます。最も速い方法はnpm:'npm install -g omniroute'を実行するとゲートウェイがポート20128で起動します。Docker利用者は公式イメージをプルできます。デスクトップ利用者はWindows・Mac・Linux向けElectronアプリが使えます。ARM64サポートでRaspberry Piでも、Termux経由でAndroidスマートフォンでも動作します。選んだ方法にかかわらずセットアップは2分以内に完了します。
  • OpenAI APIフォーマットに対応したツールはすぐに使えます。Claude Code、Cursor、GitHub Copilot、Cline、Codex、KiloCode、Kiro、Qwen CodeはいずれもベースURLをlocalhost:20128に向けるだけで接続できます。ゲートウェイはプロバイダーAPI間のフォーマット変換を内部で処理するため、ツールはどのバックエンドモデルが実際にリクエストを処理しているかを知る必要がありません。設定は1行:ベースURLを設定し、必要に応じてダッシュボードからAPIキーを設定するだけ。
  • OmniRouteはdiegosouzapwが作成し、GitHubに9,800以上のスターを持つアクティブなオープンソースプロジェクトです。9routerのフォークとCLIProxyAPIのTypeScriptポートとして始まり、数百人の開発者の貢献によってフル機能のゲートウェイへと成長しました。新しいリリースが定期的にリリースされ、プロジェクトは重畳圧縮・MCPサーバー統合・A2Aプロトコルサポートなどの機能でバージョン3.8に達しました。MITライセンスにより、誰でも自由に使用・修正・配布できます。
  • OmniRouteは完全にローカルマシン上で動作します — リクエストがサードパーティのクラウドルーターを通ることは一切ありません。APIキーはローカルのSQLiteデータベースに保存され、プロバイダーとの通信はすべてあなたのマシンからプロバイダーのAPIへ直接行われます。ゲートウェイにはPII検出とプロンプトインジェクション防止のガードレール、そしてAIサービスに制限がある地域のユーザー向けTLSフィンガープリントステルスが含まれています。プロンプト・キー・ルーティングデータはすべてあなたの管理下から離れることはありません。
  • 複数のAIプロバイダーに同時に依存しているときにゲートウェイは真価を発揮します。Claude Codeでコーディングしていてanthropicのrate limitに達しても、OmniRouteは静かに別のプロバイダーにfallbackします。複雑なタスクには高価なモデルを使い、簡単なクエリには安価なモデルを使いたい場合、タスク対応ルーティングが自動でそれを処理します。チームはすべてのAI支出のコスト一元管理に使います。ソロ開発者は無料ティアを集約するために使います。ツールごとに別々のAPI設定を管理することに疲れた人は誰でもすぐに恩恵を受けます。
  • ゲートウェイが加えるオーバーヘッドは最小限です — 通常リクエストあたり10ミリ秒未満。OmniRouteはローカルで動作するため、クラウドプロキシへのネットワークホップがありません。token圧縮で節約できるレイテンシがルーティングのオーバーヘッドを上回ることが多く、直接APIコールと比べてエンドツーエンドの応答時間が速くなります。セマンティックキャッシュはキャッシュされた応答を即座に返すことで、繰り返しや類似のクエリのレイテンシをさらに削減します。
  • はい、OmniRouteのダッシュボードは管理インターフェースで42のロケールをサポートしています。ゲートウェイ自体は言語に依存しません — 自然言語のコンテンツに関係なくリクエストをルーティングします。プロンプトが日本語・英語・中国語・その他どの言語であっても、ルーティング・圧縮・fallbackのロジックはまったく同じように機能します。ダッシュボードはあなたの好みの言語でアナリティクス・プロバイダー管理・設定を提供します。
  • はい、OmniRouteはMITライセンスの下で完全に無料のオープンソースです。有料ティアも、ペイウォールの裏にあるプレミアム機能も、ゲートウェイ自体が課す使用制限もありません。プロバイダーのAPIキーは自分で用意し、OmniRouteがルーティングを処理します。プロジェクトはコミュニティ主導で、オープンソースの貢献によって支えられています。セルフホストし、ソースコードを修正し、好きなようにデプロイできます — 永遠に。