概要
VRAM Suiteは、ローカルAI推論ワークフローにおけるGPUメモリ診断のためのPythonフレームワークです。
OOMエラーによるワークフローの中断を未然に防ぐため、VRAMの動作を理解し、記録し、予測することに焦点を当てています。
CLIツールとして利用できるほか、Python APIも提供し、システムとランタイムの情報を収集してVRAMプロファイル(.vramcard)を生成します。
NVIDIA GPUのVRAM検出や、CUDAアロケーションプローブ、OOMリスク推定機能も備えており、AIモデルの安定稼働を目指す開発者や研究者に特に役立ちます。
互換性・特徴
- Python
- CLI
- GPU必須
- NVIDIA GPU
- AI / 推論ワークフロー
- 診断ツール
基本情報
| ライセンス | NOASSERTION |
| Stars | 3 |
| Forks | 1 |
| カテゴリ | ComfyUI |
| アクティビティ | low |