概要
このGitHubリポジトリ「OpenArch」は、Sebastian RaschkaのLLM Architecture Galleryに基づき、現代のオープンソースLLMアーキテクチャ(Llama、Qwen、DeepSeek、Gemmaなど)をPyTorchで実装したものです。
本リポジトリは、プロダクションレベルのライブラリとは異なり、速度よりも**可読性と学習**を重視しており、各モデルアーキテクチャの構造的選択(アテンション、正規化、位置エンコーディングなど)を明確に理解できることを目的としています。
LLMの内部構造を深く学びたい開発者や研究者、教育目的での利用を想定しています。
様々なLLMの設計思想を比較検討し、理解を深めるための教育的なリソースを提供します。
互換性・特徴
- Python
- PyTorch
- LLM
- 学習用
- 研究開発
基本情報
| ライセンス | MIT |
| Stars | 2 |
| Forks | 1 |
| カテゴリ | LLM |
| アクティビティ | low |
