概要
llmfitは、ユーザーのRAM、CPU、GPUといったハードウェアリソースに合わせて最適な大規模言語モデル(LLM)を効率的に選定・実行するためのターミナルツールです。
何百ものモデルとプロバイダーの中から、システムに実際に適したモデルを検出し、品質、速度、ハードウェア適合性、コンテキストといった多角的な観点からスコアリングします。
対話型TUIとクラシックCLIの両モードに対応し、マルチGPU環境やMoEアーキテクチャ、動的量子化、速度推定、Ollamaやllama.cppなどのローカルプロバイダーをサポート。
また、他ユーザーの実測性能データを参照できるコミュニティリーダーボードや、ダウンロード管理、詳細設定、ハードウェアシミュレーション機能も備えています。
最適なLLMモデルを自分の環境で動かしたい開発者や研究者に適しています。
互換性・特徴
- CLI
- TUI
- Python
- Docker
- GPU対応
- マルチプラットフォーム
- LLMサポート
基本情報
| ライセンス | MIT |
| Stars | 28,691 |
| Forks | 1,765 |
| カテゴリ | LLM |
| アクティビティ | high |
最新のissue
- Missing/outdated GLIBC in latest (v0.9.33) Docker image (更新: 2026-06-27)
- Searching by model name does not reset cursor position (更新: 2026-06-26)
- Detect multiple GPUs (更新: 2026-06-26)
- Add Huihui-Qwen3.6-35B-A3B-abliterated to model list (更新: 2026-06-25)
最新リリース: v0.9.33 (2026-06-23)
