概要
llmfitは、ユーザーのRAM、CPU、GPUといったハードウェアリソースに合わせて最適な大規模言語モデル（LLM）を効率的に選定・実行するためのターミナルツールです。
何百ものモデルとプロバイダーの中から、システムに実際に適したモデルを検出し、品質、速度、ハードウェア適合性、コンテキストといった多角的な観点からスコアリングします。
対話型TUIとクラシックCLIの両モードに対応し、マルチGPU環境やMoEアーキテクチャ、動的量子化、速度推定、Ollamaやllama.cppなどのローカルプロバイダーをサポート。
また、他ユーザーの実測性能データを参照できるコミュニティリーダーボードや、ダウンロード管理、詳細設定、ハードウェアシミュレーション機能も備えています。
最適なLLMモデルを自分の環境で動かしたい開発者や研究者に適しています。
互換性・特徴
- CLI
- TUI
- Python
- Docker
- GPU対応
- マルチプラットフォーム
- LLMサポート
基本情報
| ライセンス | MIT |
| Stars | 29,380 |
| Forks | 1,788 |
| カテゴリ | LLM |
| アクティビティ | high |
最新リリース: v1.1.2 (2026-07-10)