概要
ms-swiftは、ModelScopeコミュニティが提供する、大規模言語モデル(LLM)およびマルチモーダル大規模言語モデル(MLLM)のためのファインチューニングおよびデプロイメントフレームワークです。
600以上のテキストモデルと400以上のマルチモーダルモデルの訓練、推論、評価、量子化、デプロイメントをエンドツーエンドでサポートします。
Megatron並列化技術やGRPOアルゴリズム、DPOなどの選好学習アルゴリズムを含む最新の訓練技術を統合し、vLLM、SGLang、LMDeployによる高速推論とデプロイ、GPTQ、AWQ、BNB、FP8によるモデル量子化も可能にします。
想定ユーザーは、最先端のLLM/MLLMを効率的に開発、最適化、展開したい開発者や研究者です。
互換性・特徴
- Python
- PyTorch
- CLI
- LLM
- MLLM
- GPU対応
基本情報
| ライセンス | Apache-2.0 |
| Stars | 14,834 |
| Forks | 1,533 |
| カテゴリ | マルチモーダル |
| アクティビティ | high |
最新のissue
- Megatron-Swift利用mcore-bridge训练的模型保存检查点时没有存储lm_head.weight (更新: 2026-07-16)
- 希望支持MonkeyOCRv2的微调 (更新: 2026-07-16)
- 4*A800 LoRA 微调 Qwen3.5-4B(图片文本识别,seq_len=32k):训练几步后单卡显存占满 OOM,同配置 Qwen3-VL 无此问题 (更新: 2026-07-16)
最新リリース: Patch release v4.4.1 (2026-07-13)
