CUDA一強時代にROCmが挑む！「一歩ずつ、確実に」進むAMDの現在地

AMDのオープンソースGPUプラットフォーム「ROCm」が、業界標準であるNVIDIAのCUDAに対してどのように立ち向かっているのかを記したトピックです。「一歩ずつ、着実に」という言葉が示す通り、CUDAの巨大なエコシステムに追いつくべく進化を続けるAMDの現在地と、その粘り強い開発姿勢についてエンジニアの間で注目が集まっています。

素朴な疑問なんだけど、AIエージェントを使えばROCmをCUDAと同等にするためのコード作成を加速できたりするのかな？コード以外だと、同等レベルに達するまでのボトルネックって何があるんだろう？

AMDは行動でも言葉でも、特定のデバイスに対して発売から4〜5年以上ROCmをサポートするっていう姿勢を見せてない。コンシューマー向けのRX 580みたいな製品だと、3年ちょっとで終わることもある。しかもコンシューマー向けデバイスのROCmサポートは発売から1年後に出ることも多くて、そうなるとさらに期間が短くなる。一方で、NVIDIAが1000番台（1xxxシリーズ）のCUDA/ドライバサポートを打ち切ったのは、ようやく今年の最新ドライバからなんだ。個人的には、ROCmのこのカゲロウみたいな短命さは致命的かな。

ちょっと別の話になるけど、GPUプログラミングの一般的なアプローチとして、Rust-GPUみたいなのを進めないのはなんでだろう？ https://github.com/Rust-GPU/rust-gpu/ 既存の例を見る限り、これが一番面白そうなんだ。意外なのはAMDみたいなところがバックアップしてないこと。すぐにROCmに取って代わる必要はないけど、これが進化してCUDAの代わりになればAMDにとってもメリットあるはずだよね。

ここ一週間くらい、TheRockをstagexに移植してた。ネイティブなmusl/mimallocツールチェーンでROCmをビルドして、単一のコンパイラでビルドされたバイナリを信頼できないような高セキュリティ/プライバシー重視のワークロード向けに、決定論的な動作を確保したかったんだ。30以上の依存関係と、かなりカスタマイズされたLLVMをパッケージ化しなきゃいけなくて、ちょっとした悪夢だったけど、今朝ようやくランタイムのビルドに成功した。AMDのハードウェアは、どれだけ中身がぐちゃぐちゃでも完全にオープンに開発されてるから、高セキュリティなワークロードにとっては先が明るい気がするよ。

Appleはワイドバスのユニファイドメモリで正解を出したね。だからMac Miniはローカルモデルを動かすのに最高なんだ。でも、AIのTOPS（演算性能）では10倍もパワー不足だし、メモリの増設もできない。AMDとIntelの経営陣がもっと有能な人に入れ替わってくれればいいんだけど。彼らならすぐにでもできるはずなんだ。どちらもメインメモリ共有の内蔵GPUを持ってるし、AMDはデータバス、Intelはインターコネクトに関して（少なくとも以前は）相当なノウハウを持ってた。でも、そんなことが起きる気配はない。ROCm？まともなAttentionすらサポートできてないし、機能不足な上にNVIDIAは毎年どんどん新機能を追加してる。そのうち「脱出速度」に達して、10年は誰も追いつけなくなるよ。やれやれ。