概要
BentoMLは、AIアプリケーションとモデル推論のために最適化されたオンラインサービングシステムを構築するためのPythonライブラリです。
あらゆるAI/MLモデルからREST APIサーバーを簡単に構築でき、Dockerコンテナの自動生成を通じて環境管理とデプロイを簡素化します。
動的バッチ処理やモデル並列処理などの組み込み機能によりCPU/GPUの利用率を最大化し、高いカスタマイズ性で様々なMLフレームワークに対応します。
ローカルでの開発からDockerコンテナやBentoCloudによる本番環境へのデプロイまでをサポートし、AIモデルを効率的かつスケーラブルに提供したい開発者やMLエンジニアに最適なツールです。
互換性・特徴
- Python
- API
- Docker
- GPU対応
- CLI
- Web UI
基本情報
| ライセンス | Apache-2.0 |
| Stars | 8,714 |
| Forks | 983 |
| カテゴリ | マルチモーダル |
| アクティビティ | high |
最新のissue
- bug: Dockerfile injection via unsanitized docker.env dict values (更新: 2026-07-11)
最新リリース: v1.4.39 (2026-05-07)