Nvidia DGXをメインマシンにするという狂気：日常使いの最高峰を検証

Nvidia DGXをパーソナルなデイリードライバー（日常使いのメイン機）として運用するという挑戦についてのトピックです。圧倒的な演算性能を誇るエンタープライズ向けのモンスターマシンを、果たして普段使いで実用的に動かすことはできるのでしょうか？その可能性と現実的な課題について議論しましょう。

超パワフル（かなり高価だけど）なLinuxデスクトップで、他のあらゆる作業をしつつゲームまで動かせるなんて……あの人は俺の夢を生きているな :'D

かなり購入を検討したんだけど、Sparkを買うのをためらわせる唯一の理由は、読んだ限りだと基本的にNvidiaのLinux環境を使わなきゃいけないってことなんだ。それにNvidiaは自分たちのカーネル変更をメインライン（アップストリーム）に取り込ませることに興味がないみたいだし。

可能な限り、メーカーにサポートを握られていて自分が制御できない電子機器は買わないようにしてるんだよね。

面白いブログですね！さらっと触れられていたこの箇条書きに興味を惹かれました：

24TBドライブ4台で構成したUSB 3.2接続のZFS raidz2アレイ

これについてもう少し詳しく教えてもらえますか？どのUSBアレイを選びましたか？動作状況はどうですか？今、19インチラックで消費電力が大きい余剰エンタープライズ機器から、もっと小さくて静かで省電力なセットアップに移行しようと計画しているのですが……ストレージが一番のネックなんです。今は1UのNASケースに18TBドライブを12台積んでraidz2で運用していますが、これよりうまくパッケージングする方法がどうしても思いつかなくて。今のドライブを再利用するならUSBアレイが3つ必要になるのですが、最近のストレージ価格を考えるとそうせざるを得ないかなと思っています。

NvidiaがLinuxやAndroid（Nvidia Shield）において、なるべくVanillaに近い状態を保とうとしてくれているのは評価するよ。Samsungみたいにクソみたいな独自ソフトを詰め込んで囲い込みしようとするのとは大違いだ。

もしNvidiaがAndroidスマートフォンをリリースしたら、たぶん並んででも買うと思う。

興味深いレビューですね。私は西洋では入手できない中華製のStrix Haloボックス（favm faex1）を持っています。簡単な画像生成や、業務時間中にAPIが混雑したときのバックアップとしてエージェント的なタスクをこなすことはできていますが、驚くような性能ではないし、両方を同時にこなすのも無理です。
でも、ここが重要なのですが……これ、2ヶ月前に1800ドルで買ったんですよ。しかもx86で動くんです。Arm版のNvidiaボックスになぜ2倍以上の金を払う人がいるのか理解に苦しみます。帯域幅がわずかに高いとはいえ、やることは基本的に同じAIタスクで、一般的なハイエンドコンピューティング用途ではむしろ劣るのに。
自分のボックスは気に入っていますが、これ以上に高い金を払ってまで欲しいとは思わないし、複数台買ってクラスターを組むほど役立つとも思えません。
ブランド名以外で、Nvidiaボックスにそれほどの魅力がある理由を誰か説明してくれませんか？

自分はCM5（2712および3588、16GB RAM）を積んだuConsoleを6ヶ月間メインマシンとして使っているよ。

価格は約500ドル*で、ARM特有の課題や可能性をそのまま抱えている感じだね。

でも完全に無音なのがいい。（ファンレスで、ケース自体がヒートシンクになっている）

2016年（2024年）に組んだ6600(3050)デスクトップは、SSD(2021)やRAM(2025)を交換したものの（パーツの劣化が早い）、今ではほとんど出番がないし、M$（マイクロソフト）もそのうち終わるだろう。

*uConsole用のLinuxが動く3588は品切れだし、Raspberry Pi版は希少価値でどんどん高騰しているから入手は難しいよ。

以下の3つすべてに当てはまる場合以外は、DGX Sparkを買わないことを強くおすすめします。

• パフォーマンスやコスパよりもシンプルさを重視する。
• ハードウェアが急速に価値を失うことを許容できる。
• 2台または4台買う覚悟がある。

または：

• フロンティアモデルを今すぐ可能な限り安く動かしたい。
• 15Aのブレーカー/回線で高パラメータモデルを動かしたい。

そうでないなら、普通のハイバンド幅GPUを買うべきです。

Spark 1台で使えるメモリは約115GBと、安価なGPUの24～32GBに比べれば大きな増加ですが、現実には劇的に優れたモデルが動かせるようになるわけではありません。

• Spark 1台：メモリは多いが、大規模モデルの低品質な極小ビット量子化用がせいぜい。
• Spark 2台：DeepSeek V4 FlashやHY3のような中規模モデルを妥当な量子化で動かせる。
• Spark 4台：GLM 5.2を妥当な量子化で動かせる。ただし1000ドル以上のスイッチも必要になる。

問題は、同価格帯の他の製品に比べてSparkが遅いこと。推論速度には多くの要因が影響しますが、メモリ帯域幅はその筆頭です。4000ドル以上のDGX Sparkはたった273GB/sしかありません。

[表のデータは省略]

確かにメモリ量は段違いですが、24GBから115GBに増えたからといって、必ずしもモデル品質が劇的に上がるわけではありません。多くの場合、DeepSeek V4 Flashのような大規模モデルを激しく圧縮した2bit版として読み込むだけになり、品質は著しく低下します。

現在は24～32GBがスイートスポットです。Qwen 3.6 27Bや35B-A3Bのようなモデルは、パラメータ数から期待される性能をはるかに上回りますし、24～32GBのVRAMに妥当な量子化レベルで余裕を持って収まります。

Qwen 3.6 27bの4bit量子化（18GB）は、DeepSeek v4 Flashの2bit量子化（90GB）よりも高性能です。

もし自分が4000ドルの予算で、まともなデスクトップを既に持っているなら：

• RTX 5090、RTX 5000 Pro、またはRTX 4500 Proを1枚。
• マザーボードが2つの物理x16スロットをx8/x8に分岐できるなら、RTX 3090、RTX 4000 Pro、またはR9700を2枚。

ゼロから組むなら：

• x8/x8分岐をサポートするDDR4世代またはPCIe 4.0世代のコンシューマー向けCPUとマザーボード。
• RTX 3090、RTX 4000 Pro、またはR9700を2枚。

Macを買う予定があるなら：

• ユニファイドメモリ64GBまたは128GB搭載のMacBook Pro M5。

参考までに、現在私が運用しているのは以下の環境です：

• EPYC Turin + RTX 6000 Pro Max-Q x4
• EPYC Milan + RTX 3090 x4
• AM4 + RTX 3090 x2
• AM4 + RTX 3090 x2
• Intel Raptor Lake + RTX 5060 Ti x2
• MacBook Pro M3 128GB Unified

関連情報：「AArch64 [Ampere Altra Q80-30] デスクトップ実験の終わり」 https://news.ycombinator.com/item?id=48728599 / https://marcin.juszkiewicz.com.pl/2026/06/26/the-end-of-the-aarch64-desktop-experiment/

「Multi-token prediction（マルチトークン予測）は多くのモデルで最大2倍の速度向上を無料で提供する」――ただし、プロンプト処理速度が半分になるという代償を払ってだけどね。

DGXとRyzen AI Max 395の両方を使っているけど、どちらも素晴らしい一方で、DGXを使わざるを得ない決定的な理由がいくつかある。一方でRyzenの方は「単なる」メインのホームラボサーバーになっている。一番の違いはプリフィル（prefill）の数値と、コンテキストサイズを増やした時のパフォーマンスへの影響だ。Qwen 27bは優れたモデルだし、Nemotronも悪くない、Gemmaも使える。でもどれも、納得のいく出力を得るにはそれなりのコンテキスト長が必要なんだ。

残念ながら、他の人も指摘している通り、DGXのOS体験は……最悪だ。RTX Spark（大容量ネットワークインターフェースを除けば、まさに同じスタックのように見える）によって少しは注目が集まるといいのだが、Nvidiaのオープンソースコミュニティに対する長きにわたる冷戦状態が助けにならない。カーネルサポートのメインライン化に注力すれば、コミュニティの協力をもっと得られるはずなんだけど。

もちろん、Linux 7+/7.1以降でROCmホストに大きなリグレッションが起きたばかりだし、どこもかしこも大変だよ。