概要
rusty-gptは、RustとBurnライブラリを用いてゼロから開発されたGPTモデルで、埋め込みから完全なトランスフォーマー(MiniGPT)まで、段階的に複雑な4つのモデルを提供し、学習の機会も提供します。
Axum HTTP APIとReactベースのWeb UIを備え、生成されたトークンと共にアテンション行列をインタラクティブに可視化できるのが特徴です。
CPUとCUDAの両バックエンドに対応し、Hugging Faceデータセットからのテキスト取り込みもサポートしています。
AIモデルの内部構造やRustでの実装に興味を持つ開発者や研究者、学習者向けのツールです。
互換性・特徴
- Rust
- GPT
- API
- Web UI
- CUDA
- Docker
基本情報
| ライセンス | Apache-2.0 |
| Stars | 2 |
| カテゴリ | LLM |
| アクティビティ | low |
