LLM

Nvidia GreenBoost公開、LinuxでVRAMをRAMとNVMeに拡張するカーネルモジュール

開発者Ferran Duarri氏が、Linux向けGPUメモリ拡張機構「Nvidia GreenBoost」をオープンソースで公開しました。GPUのVRAMを超える領域をシステムRAMやNVMeへ透過的に逃がし、推論ソフト側を改修せずに大...