3,702 repos GH 3,587 / HF 115 · 11 categories · GitHub上のAI関連OSSを日本語で早見 · 毎日自動更新

#KVキャッシュ量子化 (1 repos)

「KVキャッシュ量子化」タグが付いたリポジトリ

← 全リポジトリ

LLM
GitHub
KVarN
KVarNは、LLMのKVキャッシュ量子化をvLLM環境で実現するネイティブバックエンドです。特に、エージェントや長文コン…
#CLI #GPU必須 #KVキャッシュ量子化
★ 409 ⑂ 24 Apache-2.0 2026-06-16