概要
dmlxは、AppleのMLX Metalバックエンドと5層のメモリ最適化技術を組み合わせることで、Mac上で大規模なフロンティアLLMを実行可能にするツールです。
特に、48GBのMacBook Proで284BパラメータのMoEモデルを動かすことができ、クラウドやGPUクラスターが不要という点が大きな特徴です。
単一の静的なZigバイナリとして提供され、OpenAI互換APIを備えています。
メモリ制約のあるMacユーザーが、ローカル環境で高性能なLLMを効率的に活用したい場合に最適なソリューションです。
互換性・特徴
- macOS対応
- LLM
- Apple Metal
- OpenAI互換API
- CLI
基本情報
| ライセンス | MIT |
| Stars | 57 |
| Forks | 4 |
| カテゴリ | LLM |
| アクティビティ | low |
最新のissue
- コンパイルエラー: `mlx_z` ハッシュ不一致 (更新: 2026-05-15 / Compilation error: `mlx_z` hash mismatch)
- ビルドエラー (更新: 2026-05-09 / build errors)
- ビルド失敗 (更新: 2026-05-07 / 无法build)
GitHub: https://github.com/zouyee/dmlx