概要
LLM Routerは、OpenAI互換のAI Gatewayとして機能し、クライアントと既存のAI中継サービス間に配置されます。
ユーザーは「auto」「auto-coding」「auto-longtext」といった仮想モデル名を使用するだけで、リクエスト内容、コスト、モデルの能力、およびフォールバック戦略に基づいて最適な実際のモデルが自動的に選択されます。
これにより、手動でのモデル切り替えの手間を省きつつ、簡単なタスクではコストを抑え、複雑なタスクでは高品質なモデルを利用するといった賢い運用が可能になります。
OpenAI互換API（Chat Completions、ストリーミング、ツール呼び出し、マルチモーダル対応）、コスト認識ルーティング、観測可能なフォールバック機能、そしてローカル設定ページが特徴です。
既存のOpenAI互換APIを利用中で、モデル選択の自動化と運用効率の向上を目指す開発者に最適です。
互換性・特徴
- Node.js
- OpenAI互換
- CLI
- Web UI
- Docker
- ストリーミング対応
基本情報
| ライセンス | MIT |
| Stars | 4 |
| カテゴリ | マルチモーダル |
| アクティビティ | low |
最新リリース: v0.1.1 – Local Admin router config (2026-05-26)