概要
「Granite Switch」は、IBM Researchが開発したオープンソースプロジェクトで、複数のファインチューニングされたLoRAアダプターを、単一の効率的なモデルチェックポイントに統合する技術です。
これにより、複数のモデルの精度を保ちつつ、運用コストを削減できます。
独自のLoRAアダプターを組み合わせて、必要に応じて個別の機能を柔軟に交換・アップグレードでき、再トレーニングは不要です。
Hugging FaceやvLLMといった主要な推論環境に対応しており、特に大規模言語モデル(LLM)の効率的なデプロイを求める研究者や開発者に最適です。
互換性・特徴
- Python
- CLI
- GPU必須
- Hugging Face対応
- vLLM対応
- LoRA
基本情報
| ライセンス | Apache-2.0 |
| Stars | 80 |
| Forks | 8 |
| カテゴリ | LLM |
| アクティビティ | low |
最新のissue
- バグ: チュートリアルにおけるGoogle Colabのインストールエラー (更新: 2026-06-11 / Bug: Install errors in Google colab in tutorials)
- チュートリアル内の不足しているColabリンクを修正 (更新: 2026-06-03 / Fix missing colab link in tutorial)
GitHub: https://github.com/generative-computing/granite-switch
