LinuxでNvidia GPUのVRAMをスワップ領域として活用する方法

Nvidia製GPUを搭載したLinux環境で、余っているVRAMをスワップ領域として使うためのテクニックです。メモリ不足に悩まされているなら、この方法でシステムのレスポンスを改善できるかもしれません。

いや、かっこいいのはわかるけど、自分としては遠慮しとくかな。

メモリが直付けでアップグレードできないラップトップ向けに作られている。もしRTXカードの8GB VRAMが余っていて、SSDへのスワップが発生しているなら、このVRAMを活用できる。

なるほど、高いRAMから「めちゃくちゃ高い」RAMになぜ乗り換える必要があるのかという疑問に対する答えにはなってるね。かなりニッチな気はするけど、必要としている人にとってはいいアイデアだよ。

Q: なんで？
A: なんでダメなの？

自分の開発マシンは32GBのRAMと32GBのVRAMを積んでるけど、AIモデルを動かしてない時はほとんどアイドル状態だから、そんなに悪いアイデアじゃないと思う。

昔は16GBといえばエンタープライズレベルのデータベースメインフレームだったことを思い出すよ。

まあ、今のGPUはとんでもない演算能力を持ってるしね。GPUの計算機能を活用した便利なデータベース形式があっても不思議じゃない。

データがすでにVRAM上にあれば、GPUを使って必要な時にデータのソートや結合、あるいは操作ができるわけだし。

今のこのご時世にVRAMを浪費するつもり？

自分はむしろその逆の方に興味があるな。NvidiaのLinuxドライバって、持っている以上のVRAMにアクセスしようとするとクラッシュするから。それがなくなればいいのにな。