概要
Ar9av/mlx-lm-serverは、Apple Siliconを搭載したMac向けに開発された、OpenAI互換のローカル推論サーバーです。
LLM、画像生成（FLUX.2-klein）、およびオーディオ処理（TTS/STTなど）の機能を提供します。
RustとPython (MLX) を組み合わせており、アイドル時のRAM消費が8MB、コールドスタートが16msという極めて軽量かつ高速な動作が特徴です。
単一バイナリで提供され、OpenAI SDKと互換性があるため、既存のツールを容易に連携させることができます。
Apple Silicon Macを所有し、ローカル環境で効率的にAIモデルの推論を行いたい開発者や研究者に最適です。
互換性・特徴
- Apple Silicon対応
- Rust
- Python
- CLI
- OpenAI API互換
- LLM
- 画像生成
- オーディオ処理
基本情報
| ライセンス | MIT |
| Stars | 3 |
| カテゴリ | 画像生成 |
| アクティビティ | low |
最新リリース: v0.2.0 (2026-06-11)