概要
AgentGuardは、RAGやエージェントAIアプリケーション向けの自己ホスト型AI信頼性プラットフォームです。
AIアプリケーションで発生しうる高コストなインシデント（幻覚、安全でない出力、PII漏洩など）を検出、評価、防止します。
主な機能として、ライブAI動作の監視（Observability）、プロンプトインジェクション防御やPIIマスキングなどの保護（Protection）、DeepEvalやRAGASを用いた評価（Evaluation）、自動化されたレッドチーミングを提供します。
AIエンジニア、プラットフォームチーム、技術プロダクトオーナー、機密性の高いワークフローを扱うチーム向けに設計されており、モデルの実験だけでなく、AIシステムの運用制御を求めるチームに最適です。
互換性・特徴
- Python
- CLI
- 自己ホスト型
- RAG対応
- エージェントAI対応
- ガードレール
基本情報
| ライセンス | Apache-2.0 |
| Stars | 1 |
| カテゴリ | LLM |
| アクティビティ | low |
最新のissue
- Evals/インシデント後の次アクション推奨エンジン (更新: 2026-06-10 / Recommendation engine for next action after evals/incidents)
- 本番運用オペレーター/経営層向けスコアカードダッシュボード (更新: 2026-06-10 / Production operator/exec scorecard dashboard)
- Agentアクションの安全性、ツール権限管理、承認ワークフロー (更新: 2026-06-10 / Agent action safety, tool permissioning, and approval workflow)
- モデル運用におけるコストガバナンスと予算統制 (更新: 2026-06-10 / Cost governance and budget controls for model operations)
- 独自のコーパス持ち込み (BYOC) オンボーディングUXと取り込みウィザード (更新: 2026-06-10 / Bring-your-own-corpus onboarding UX and ingestion wizard)