概要
LatentGateは、VL-JEPAに着想を得たパイプラインで、画像や長いテキストなどの複雑な処理をローカルのOllama（無料）で行い、その結果をコンパクトなセマンティックペイロードとしてクラウドLLM APIに送信することで、トークンコストを約80%削減するツールです。
主な特徴として、Ollamaによるローカルでの高速なビジョン・テキスト圧縮、動画ストリームにおける選択的デコーディング、そしてOpenAI、Anthropic、Googleなどの多様なLLMプロバイダーへの対応が挙げられます。
LLM APIの利用コストを大幅に抑えたい開発者や企業、特に画像分析や長文処理を頻繁に行うユーザーに最適です。
互換性・特徴
- Python
- CLI
- Ollama
- API連携
基本情報
| ライセンス | MIT |
| Stars | 5 |
| カテゴリ | マルチモーダル |
| アクティビティ | low |