概要
「whichllm」は、ユーザーのコンピューターハードウェア(GPU/CPU/RAM)を自動検出し、その環境で最も性能を発揮するローカルLLMをHuggingFaceから見つけ出すCLIツールです。
モデルのパラメータ数ではなく、複数の実ベンチマークや最新のデータに基づいてモデルをランク付けし、最適なものを推薦します。
これにより、ユーザーは自身のハードウェアに最適なLLMを効率的に選択できます。
また、特定のGPUをシミュレートする機能もあり、新しいハードウェア購入前の検討にも役立ちます。
ローカル環境で最適なLLMを探している個人ユーザーや開発者が主な対象です。
互換性・特徴
- CLI
- Python
- GPU対応
- CPU対応
- 日本語対応
- HuggingFaceモデル
基本情報
| ライセンス | MIT |
| Stars | 4,895 |
| Forks | 268 |
| カテゴリ | LLM |
| アクティビティ | high |
最新のissue
- Add a full-GPU-only fit filter (更新: 2026-06-17)
- charset error after installation (更新: 2026-06-15)
- Results not good for my GPU (更新: 2026-06-15)
最新リリース: v0.5.10 (2026-06-11)
