HN292210
Metaが独自チップで古いメモリを再利用！Vistaraに見る次世代サーバーのコスト最適化戦略
Meta reuses old RAM in new servers with custom bridge chip
ihsw・7日前
議論
11件Metaが新しいサーバー向けに、独自開発のブリッジチップを使用して古いRAMを再利用する技術を公開しました。詳細は以下の論文で確認できます：https://aisystemcodesign.github.io/papers/isca26/vistara_cam... (https://aisystemcodesign.github.io/papers/isca26/vistara_camera_ready.pdf)
この「RAM危機」が面白いのは、他の分野と同じく、問題が発生すると各所が代替案を探し始めるって点だな。こういうのって、危機を脱した後にメモリ関連の技術が爆発的に進化するきっかけになる（と期待してる）。ローカルマシンにも恩恵があるといいよね。1. Appleが新しい中国のメーカーを評価し始めてる。もしQA（品質保証）がしっかりしていれば供給網の勢力図が変わるかもね。(https://www.ft.com/content/f4ac5c92-03be-4499-b16a-017a7e9ee228) 2. 企業はパフォーマンスを維持しようと必死だ。突然シングルチャネルが「アリ」になったりしてさ？ :) (https://www.gigabyte.com/press/news/2403)
これのコンシューマー版があったら最高なんだけどな。古いRAMなら山ほど余ってるし。
わざわざカスタムチップを設計しなくても、標準のCXLメモリエクスパンダーチップがあるよ。 https://www.marvell.com/products/cxl.html
論文にはこうあるね。「我々のCXLソリューションは、ML推論の分散処理においてサーバー数を最大25%削減するなど、多様なワークロードで大幅なゲインを達成した」。でも、質の低いRAMを使ってどうやってサーバー数を25%も減らせるんだろうか？
ServeTheHomeが昨年12月の時点で既にCXLメモリ拡張コントローラーについて報じてたよ：https://www.servethehome.com/hyper-scalers-are-using-cxl-to-lower-the-impact-of-ddr5-supply-constraints-marvell-arm/
昔からずっと思ってたんだけど、なんで「古いSIMM/DIMMを大量に挿して、スワップや低速メモリ、RAMディスクとして使える安価なPCI/PCI-X/PCI-eカード」って市場が大きくならなかったんだろうな。[1] マザーボードの全アドレス空間を「最新メモリ」で埋めるなんて滅多にできないし、速度差に応じてカーネルがメモリの優先順位を判断できるように設定もできるはずだから[2]、あって当然の製品だと思うんだけどな。フラッシュメモリで似たようなことをやろうとした市場が特許問題で潰された記憶はあるけど、詳細は思い出せない。フラッシュキャッシュは結局、大手向けに市場ができたけどね。たまたま自分が興味あるニッチな領域だっただけかな？ [1] いくつか製品はあったけど、どれも定着しなかった印象。間違ってたらごめん。[2] NetBSDなら確実にできる。VMEbusみたいにオンボードの高速メモリと、バス上の低速で大容量なメモリが混在する環境で使ってたよ。LinuxでもNUMAサポートのおかげで似たようなことはできるはずだけど、深掘りしたことはないな。
ウィリアム・ギブスンの『ニューロマンサー』の冒頭で、主人公が闇市で3MBのRAMを売ろうとするシーンがある。よく「時代遅れになった描写」の筆頭に挙げられるけど、今のメモリ市場の動きを見てると……もしかして、まだそこには到達していないだけなのかもな。
今後数年でコンシューマー向け電子機器市場がどうなるか、興味深いね。企業は今、RAM不足を理由に消費者が上乗せ料金を払ってくれると賭けてるわけだ。でも、あらゆるもののコストが上がってる状況を考えると、多くの一般消費者は（ここはHNだから言っておくけど、みんながみんなテック系で稼いでるわけじゃないからね）しばらく新しいデバイスを買わなくなるんじゃないかな。
ありがとう、LLMやAIに夢中な連中！お前らとその「エージェンティック」なクソ技術のおかげで、まともなホームラボ用のファイアウォールやルーターの予算すら捻出できないよ。