概要
tensor-serveは、OpenAI互換AI向けのZIMベースの検索拡張プロキシです。
KiwixのOPDSカタログからZIMドキュメントをダウンロードし、ローカルにセマンティックベクトルデータベースを構築することで、AIモデルが質問に答える際に関連性の高いコンテキストを提供し、回答の精度を向上させます。
キーワード検索とセマンティック検索を組み合わせたハイブリッド検索機能を持ち、クエリの種類に応じて最適な検索モードを自動で選択します。
デプロイ環境に合わせて「Lightweight」から「Production」まで複数の検索複雑性プロファイルを選択可能で、AIを特定のニーズに合わせてカスタマイズしたい開発者や、専門知識に基づいたより正確なAI回答を求めるユーザーに適しています。
互換性・特徴
- OpenAI互換
- Python
- CLI
- Kiwix対応
- セマンティック検索
- キーワード検索
基本情報
| ライセンス | MIT |
| Stars | 4 |
| カテゴリ | LLM |
| アクティビティ | low |