総額4万8000ドルのGPUサーバー、ぶっちゃけ投資する価値はあったのか？

約700万円超えのコストを投じて構築したGPUサーバー。これだけの投資に見合うだけの恩恵は本当にあったのか、その真相を正直に振り返ってみます。

この1年で、512GBのM3 Ultra Mac Studio、128GBのMacbook Pro M5 MAX、そしてRTX 6000 Proを購入したよ。電気代を除いても既に2万5000ドルくらい使ってる。最悪の場合でも、投資額を全部失うよりはマシだし、来年売ればいくらかは回収できるだろうって算段さ。

トークンにお金を払うのと比べると、API利用の方がずっと安くて速かったね。Gemma4:31bやQwen3.5、3.6を使ってAMC 8/10の数学の問題をローカルLLMで解かせてみたけど、オンラインでやるのと比べて10倍から100倍くらい遅いんだ。去年の終わりにChatGPTで試したときは、一晩かけて25ドルで1000問くらい解けたのに。同じモデル（Gemma4:31b）でRTX 6000とM3 Ultraを使って試したところ、7時間でたった40問しか終わらなかった。まだ回答の質は確認してないけど、800W（RTXに600W、M3 Ultraに200W）を7時間消費してこの結果だよ。

せめてM3 Ultraだけでも、詐欺に遭わずに売れる場所が見つかれば手放したいと思ってる。

Macbook Proでの推論については計算してみたけど、間違いなく割に合わないね。

• https://www.williamangel.net/blog/2026/05/17/offline-llm-ene... (https://www.williamangel.net/blog/2026/05/17/offline-llm-energy-use.html)
• Discussion: https://news.ycombinator.com/item?id=48168198 (https://news.ycombinator.com/item?id=48168198)

4万8000ドルもかけて家庭用GPUサーバーを作るなんて考えられないけど、実は最近RTX 5090を積んだPCを奮発して買っちゃったんだ。32GBに収まる最大サイズのモデルを動かすためさ。水冷CPU、64GB RAM、RTX 5090を積んだハイエンド構成で5000ドルだった。これが賢い投資だったかはまだ分からないけど、10年は使うつもり。常時100%の負荷をかけるわけじゃないし（トレーニングやバッチ推論以外はほぼアイドル状態）、仕事で使ってるのと同じBlackwell世代っていうのもいい感じだね。

ただ、自宅に4万8000ドル相当の機材を置くのは故障や盗難が怖すぎるよ。

やあ！投稿してくれて本当にありがとう！自分自身が投稿した時はタイミングが悪くて運がなかったから、こうしてフロントページに載ってて嬉しいよ！（私はその著者です）

「『PCを複数のコンセントに繋ぐ』とググると、そんな構成を考えただけで即座に爆発炎上するぞという警告が山ほど出てくる。だからプロのPCビルダーに依頼して安全を確認してもらったんだ」

どうやって安全性を確保したのかよく分からないけど……まあ、いいか！

みんなが「無駄遣い」する他の例：

• ほとんど乗らないのに装備モリモリのマッスルカー
• 滅多に乗らないボート
• 「ゲーマー用X」（Xはシステム、ラップトップ、キーボード、マウス、デスク、眼鏡、マウスパッド、スピーカーなど……大抵は「光りすぎなRGB」付き）
• 子供

AI関連とはいえ、4万8000ドルで何か建設的なものを作るなら、問題ないどころか清々しいくらいだよ。

更新：ローンチは成功！40万ビュー以上を達成し、複数の企業から私のIPを使いたいという連絡があった。詳細はこちら

彼はハードウェアから求めていた結果を得られたみたいだし、それは何よりだね。

記事の冒頭で言っていたことが興味深かった。FAANG（大手テック企業）での自分の給与をもとに、ハードウェアのコストを自分の時間コストと比較していたんだ。考え方としては面白いけど、結局のところクラウドを借りるのと比べて時間やコストの節約になったのかは記事を読んでもよく分からなかったな。

あと、電気代以外にもハードウェアには運営、メンテナンス、セットアップといった運用コストがかかる。ROI（投資対効果）が良いかを判断するための調査（データの収集や分析など）にかかる時間だって無視できないよね。

この記事には、この「怪物」が必要な理由も、代替案との比較も欠けているように見える。タイトルにある問いに答えるには両方不可欠なんだけどね。支出総額のまとめと、クラウド利用料との主観的な比較があるだけ。価値があるかどうかの徹底的な検証をした形跡は見当たらない。

本当に問うべきは、もっと安価なハードウェアで同じことができたのではないか、ということだ。需要に応じて拡張可能な安価な構成で証明できたビジネスアイデアはなかったのか？期待されるROIは将来の収益に基づいているのか？

そもそも必要なのかどうかの根拠が示されていない以上、何の価値もなかったと結論付けるしかないね。

オフィスでRTX 5090を1枚積んだだけのシンプルなAIサーバーを管理してるけど、これ1台で1日中80人くらいのユーザーをさばけてるよ。今のところ、Qwen3.6-27bのエージェント的なコーディングタスクでの能力には感銘を受けてる。開発者曰く、多くのタスクでSonnet 4.6と大差ない（時々上回ることもある）らしく、秒間40〜60トークン、コンテキストも260kまでいける。このサーバーは全部込みで1万ドルくらい。

RTX 5090の1枚環境で品質を落とさずに負荷を最適化するためのソフトウェア設定やベンチマークにかなりの時間を費やしたけど、それでも限界が来ていてキューの待ち時間が長くなってる。ハードウェアは限界で、もう打つ手がないんだ。

実験としては成功と言えるし、CTOもスケールアップに同意してくれた。自社インフラがあれば、エージェントを24時間フル稼働させられる。現状、PII（個人特定情報）や企業秘密の問題でクラウドサービスをブロックされるケースが多いし（情報セキュリティ部門は「データ保持なし」という約束を信じてくれない）、請求書や予算のことを気にする必要もなくなるのは大きい。

ただ、どうスケールさせるか悩んでる。大きいモデルを動かしたい気持ちもあるから8xH200を買う予算はある。でも多くのベンチマークを見ると、8xH200で動かせるような巨大モデルが、Qwen3.6を大幅に上回って価格に見合う結果を出せるとは思えないんだ。

もう一つの選択肢は、RTX 6000を複数買って水平スケールさせること。各GPUでQwen3.6のような中規模LLMのコピーを走らせるんだ。安上がりで交換も簡単だけど、NVLinkが使えないから将来的に巨大モデルが必要になった時に困るかも（もしAlibaba等が30b程度のモデルのリリースをやめたり、400b以上のモデルが圧倒的になったりしたら）。

高並列かつ長コンテキストで、複数のRTX 6000を積んだマルチGPU構成（Deepseek 4 FlashやMinimax 2.7のような）を運用した経験がある人はいるかな？

4万8000ドルっていうのは全額が埋没費用になるわけじゃないよ。今のGPUには無視できない残存価値があるし、あと数年は続くだろう。このサーバーの減価償却カーブは、実はかなり羨ましいレベルだと思うぞ！