概要
MLX-VLMは、Apple Silicon Mac上でMLXを利用してVision Language Models（VLM）および音声・動画対応のOmni Modelsの推論とファインチューニングを行うためのパッケージです。
CLI、GradioによるチャットUI、Pythonスクリプト、FastAPIサーバーを通じて利用でき、推論の高速化と効率化のための様々な機能（投機的デコーディング、バッチ処理、KVキャッシュ量子化など）を提供します。
VLM/OmniモデルをMacで手軽に利用・開発したい研究者や開発者、AI愛好家を対象としています。
互換性・特徴
- Mac対応
- Python
- CLI
- Web UI
- GPU必須
- 多モーダル
基本情報
| ライセンス | MIT |
| Stars | 5,260 |
| Forks | 684 |
| カテゴリ | マルチモーダル |
| アクティビティ | high |
最新のissue
- Qwen2.5-VL image inputs broken on 0.6.4+ (incl. 0.6.7): immediate EOS / template echo; works on 0.6.3 (更新: 2026-07-27)
最新リリース: v0.6.7 (2026-07-23)