概要
「gemma-4-abliterated」は、GoogleのGemma 4 31Bモデルから、品質を損なうことなくガードレール（倫理的な制限）を除去した大規模言語モデルです。
再学習なしでモデルの拒否行動を取り除く「abliteration」技術を導入し、特にApple Silicon搭載Macでローカルかつ高速（M4 Maxで約23トークン/秒）に動作する点が特徴です。
20GB以上のユニファイドメモリを搭載したApple Silicon MacとPython 3.10+、mlx-vlmライブラリが必要です。
検閲なしで大規模言語モデルの能力を最大限に活用したい開発者や研究者、特にApple Silicon環境で高性能なローカルLLMを求めるユーザーに適しています。
互換性・特徴
- Apple Silicon対応
- MLX
- Python
- GPU必須
- HuggingFace Model
基本情報
| ライセンス | NOASSERTION |
| Stars | 14 |
| Forks | 5 |
| カテゴリ | マルチモーダル |
| アクティビティ | low |
GitHub: https://github.com/199-biotechnologies/gemma-4-abliterated