3,702 repos GH 3,587 / HF 115 · 11 categories · GitHub上のAI関連OSSを日本語で早見 · 毎日自動更新

#分散推論 (1 repos)

「分散推論」タグが付いたリポジトリ

LLM

GitHub

vllm

vLLMは、大規模言語モデル (LLM) の高速かつ効率的な推論とサービングを可能にするPythonライブラリです。最先端のス…

★ 82.8k ⑂ 18.0k Apache-2.0 2026-06-14