概要
このプロジェクトは、LLM（大規模言語モデル）のAPIプロキシと回復力ライブラリを提供します。
自己ホスト型で、OpenAIおよびAnthropic互換のAPIエンドポイントを、Geminiを含む様々なLLMプロバイダー向けに提供します。
これにより、既存のアプリケーション（Claude Code, Opencode, Continueなど）でコード変更なしに異なるLLMプロバイダーを利用できます。
主な特徴は、ユニバーサルな互換性、単一エンドポイントでの複数プロバイダー対応、Anthropic API互換性、およびAPIキーの自動ローテーション、フェイルオーバー、レート制限処理などの組み込み回復力です。
想定ユーザーは、複数のLLMプロバイダーを一つのインターフェースで管理し、耐障害性を高めたい開発者や企業です。
互換性・特徴
- OpenAI互換
- Anthropic互換
- CLI
- Docker
- Python
- Web UI
基本情報
| ライセンス | NOASSERTION |
| Stars | 507 |
| Forks | 97 |
| カテゴリ | LLM |
| アクティビティ | mid |
最新のissue
- gemini_cli – Gemini 2.5 Flash Bad Request 400 – thought_signature が不足しています (更新: 2026-05-31 / gemini_cli – Gemini 2.5 flash bad request 400 – missing thought_signature)
- FR: Freebuffをプロバイダーとして追加 (更新: 2026-04-19 / FR: Add Freebuff as a provider)
最新リリース: Build (main): 20260527-1-af40b91 (2026-05-27)