概要
llmfitは、数多くのLLMモデルとプロバイダーの中から、ユーザーのハードウェア（RAM、CPU、GPU）に最適なものを推奨するターミナルツールです。
本ツールはハードウェアを検出し、品質、速度、適合性、コンテキストに基づいて各モデルを評価し、実際にマシンでどのモデルがうまく動作するかを教えてくれます。
インタラクティブなTUIとCLIモードを両方提供し、マルチGPUセットアップ、MoEアーキテクチャ、動的な量子化選択、速度推定をサポートします。
Ollamaやllama.cppなどのローカルランタイムプロバイダーに対応しており、他のユーザーのリアルタイムパフォーマンスデータを共有するコミュニティリーダーボード、ダウンロードマネージャー、ハードウェアシミュレーションなどの機能も備えています。
ローカル環境でLLMモデルを効率的に活用したい開発者や研究者が想定ユーザーです。
互換性・特徴
- CLI
- TUI
- Python
- Rust
- GPU必須
- Docker対応
基本情報
| ライセンス | MIT |
| Stars | 25,898 |
| Forks | 1,557 |
| カテゴリ | LLM |
| アクティビティ | high |
最新のissue
- サブコマンドに関わらずTUIを強制する`–tui`グローバルフラグを追加 (更新: 2026-05-12 / Add a –tui global flag that forces TUI regardless of subcommand)
- サーバーモード：27Bモデルの容量計画と密度計算 (更新: 2026-05-11 / Server mode: capacity planning / density calculation for 27B models)
- 機能ロードマップ：llmfitに必要とされる上位3機能 (更新: 2026-05-11 / Feature roadmap: top three needed features for llmfit)
最新リリース: v0.9.24 (2026-05-12)