概要
Micro Diffusionは、Pythonで実装されたテキスト拡散モデルの基礎を学習するためのプロジェクトです。
KarpathyのMicroGPTに倣い、大規模なフレームワークや複雑なデータパイプラインを使用せず、テキスト拡散のコアなメカニズムを最小限のコードで解説することに焦点を当てています。
このリポジトリは、Autoregressiveモデルとは異なるマスクとノイズ除去によるテキスト生成の原理を理解したい開発者や研究者、学習者を主な対象としています。
NumPyのみで動作するシンプルなバージョンと、PyTorchを用いたTransformerベースのバージョンが提供され、テキスト生成の異なるアプローチを探求するのに役立ちます。
互換性・特徴
- Python
- NumPy
- PyTorch
- CLI
- 学習/研究用途
基本情報
| ライセンス | MIT |
| Stars | 33 |
| Forks | 2 |
| カテゴリ | 画像生成 |
| アクティビティ | low |