概要
Kimariは、NVIDIA製消費者向けGPU（特にGTX 1060/1080などの古いモデル）で強力な大規模言語モデル（LLM）をローカルで実行するためのオープンソースフレームワークです。
クラウドやサブスクリプションを不要とし、ユーザーのデータを自身のマシンに保持します。
llama.cppとCUDAを基盤とし、KimariFitスコアリングシステムと事前調整されたGPUプロファイルを通じて、VRAMあたりの有用なインテリジェンスを最大化し、機械学習の専門家でなくとも古いハードウェアで優れたパフォーマンスを引き出せる点が特徴です。
OpenAI互換API、充実したCLI、Open WebUIやContinue（VS Code/JetBrains）との統合も提供しており、手持ちのPCでLLMを活用したい一般ユーザーや開発者に最適です。
互換性・特徴
- GPU必須
- CLI
- Python
- OpenAI互換API
- Web UI
- IDE連携
- ローカルAI
基本情報
| ライセンス | MIT |
| Stars | 7 |
| Forks | 1 |
| カテゴリ | LLM |
| アクティビティ | low |