RustでGPUオフロードを極める：移植性・安全性・爆速を実現する手法

GPUコンピューティングの力をRustで活用したいと考えていませんか？この記事では、高い移植性を保ちつつ、メモリ安全性を犠牲にすることなく、GPUのパフォーマンスを最大限に引き出す手法について解説します。

期待できそうだけど、ソースコードは公開されてるの？アブストラクトには何も見当たらなかったんだけど。

rust-gpuプロジェクトはポインタ[8]をエミュレートしなきゃいけないから、HPCのベンチマークにおいて大半がブロッキング問題だと考えてる。

なんでそれがブロッキング問題になるの？
rust-gpuの目標とすごく合致しているように感じるんだけど。

Mojoに詳しい人いる？Rust + gpu-offloadと比べてどうなのか意見を聞きたい。

NVIDIAとAMDのサポートは本当に面白い部分だね。OpenMPやSYCLが複数のGPUベンダーをターゲットにできるのは知ってるけど、Rustの安全性モデルを維持したままそれを実現するのはかなり魅力的。実際のところ、パフォーマンスがどの程度移植可能なのか気になる。

これって主に、ヘテロジニアスなワークロードのためにホストバイナリを自己完結型にすることを目指してるの？
あと、ターゲットは基本的にHPC層ってことかな？

このモジュールは現在活発に開発中です。アップストリームに取り込まれれば、Rust開発者がGPUでRustコードを実行できるようになります。私たちは、安全で便利、かつデフォルトで十分に高速な、RustらしいGPUプログラミングインターフェースの開発を目指しています。これにはGPUへの効率的な自動データ転送も含まれます。将来的には、より高度な（安全とは限らない）インターフェースも提供し、制御の自由度を高める予定です。

この取り組みと労力は本当に素晴らしいと思う。でも、C++とLLVM offloadの組み合わせでは、これまで同様のアプローチはあまりうまくいかなかったよね。なぜRustならうまくいくんだろう？

それで…なぜわざわざLLVMを通すの？MIRが直接PTXやHIP Cをターゲットにするんじゃダメなの？

もし本当にRust GPUのためのベンダーニュートラルな解決策を求めているなら、すでに存在してるでしょ。CPU側のコード（バッファリング、アロケーション、並行処理など）をVulkanバインディング経由で書いて、計算カーネルをHLSL/GLSL/WGSL等のSPIR-Vで動かせばいい。現状のやり方だと、ここでのRustは単なるTypeScriptの型やインターフェース定義みたいに使われているようにしか見えないよ。

繰り返すけど、GPUで処理すべき大半の操作はコンパイル前にサイズが分かっているはずだから、わざわざ手間をかけてGPU計算のための「Rust風DSL」なんて書かなくても、コンパイル時に静的にメモリを確保することは十分可能なはず。

自分はRustaceanだからコードは全部Rustで書いてる。LLM推論エンジンの自作プロジェクトで一番苦労するのはいつもバインディングなんだよね。バインディングの維持や記述はしたくないし、既存のプロジェクトのバインディングを使うにしても、所有者がアップデートするのを待つか、自分でフォークしてメンテしなきゃいけない。これが本当に頭痛の種で。RustのコアをGPUで動かせるなら初日から試してみたいね。チームに称賛を送るし、今後も注目しておくよ。