ローカル開発にはQwen 3.6 27Bがベストバイ!その理由を徹底解説
Qwen 3.6 27B is the sweet spot for local development
Qwen 3.6 27B is the sweet spot for local development
Qwen 3.6 27Bがローカル開発における「スイートスポット(最適解)」であるという話題です。リソース消費とパフォーマンスのバランスが絶妙で、個人開発環境でのLLM運用に最適だという意見が多く寄せられています。
…自分のMacbook Max M5 128GBで
「誰」のためのローカル開発環境なんですかね?128GBメモリなんて積んでる人が世の中にどれだけいるの?Appleのサイトを読み間違えてるのかと思ったけど、本当に1万ドルのノートPCなんですか?
どの例も「実際の仕事」を反映してない気がするな。少なくとも自分ならこれを実務とは呼ばない。ゼロショットの新規プロジェクトを形にするなんて、小規模なモデルでも比較的簡単だし。構築すべきコンテキストが少ないから、学習データの似たような例に逃げられるんだよ。完全に新しいものを発明させようとしない限り、まあなんとかなるだろうね。
真のテストは、既存のコードベースとまともに付き合えるかどうかだ。自分の限定的な実験だと、Qwen 3.5(3.6はもっといいのかもしれないけど)はRust+Reactのアプリではまあまあだったけど、C#のモノリス環境ではさっぱりだった。使い物にならないってほどじゃないけど、20分でClaudeに戻したくなるくらいの低レベルさだった。クラウドモデルへのアクセスを断たれてQwenを使うハメになったら、間違いなく落ち込むね。
この記事は128GBのMacBook ProでQwen 3.6を動かす話がベースだね。参考までに、128GBのMBPは現状6699米ドルからスタートだ 0。
プライバシーのためにそのプレミアムを払うのを厭わない人もいるだろうけど、MacBook Neoの約10倍のコストってことを考えると、その金でOpenRouterやフロンティアラボのクレジットを山ほど買えるよ。
参考までに、自分は5090でgemma4 31bを動かしてるけど、かなりいい感じだよ。
QAT、MTP、128kコンテキスト対応だし。
Qwen 3.6 27bも悪くなかったけど、Gemma4はちょっと過小評価されてる気がする。
SOTAより明らかに劣るモデルを動かすために、何千ドルも出して128GBのMBPを買う人たちを見てると気が狂いそうになる。128GBのM5 MAXに費やす金額があれば、こっちじゃ新車が買えるんだよ。自分は何を見落としてるんだ?他国の開発者は別世界で生きてるのか?
(住んでる場所によって絶対額としての価格が高いのは承知してる。だからこそ、もし他国でそれを買ったとしても、こっちに来たらすぐに売って差額を確保するはずだし、まともな神経ならそうすると思うんだよね)
自分のMacBook Pro M5 128GB RAMとqwen3.6は大好きだよ。
でも、ローカルLLMを使って本気でコーディングするつもりなら、このMacBookは絶対に買わない方がいい。理由は単純、指は熱くなるし、騒音で頭が破裂しそうになるから。
今作業に使ってるノートPCで重い処理を走らせるなんて現実的じゃないよ。クラムシェルモードならまだいいけど、AIコーディングやエージェントを動かしながら本体に触るなんて考えないことだね。
Qwen3.6 27B / 35Bを最高の状態で動かしたいなら、MacMini M4の64GB RAMを買って地下室か、せめてデスクから数メートル離れた場所に置くことだね。LANかTailscale経由で接続すればいい。MacMiniならMacBook Proの3分の1以下のコストで済むし。
後で感謝することになるはずだよ。
ローカルモデルを動かすハードウェアがいかに高価かって話をよく見るけど、Intel Arc Pro B50/B60/B70の話は全然聞かないね。Apple製品に興味がないなら、今の状況下ではコスパもそこそこに見えるんだけど。
ちょうどB70の32GB RAMモデルを、税・関税込みで約1200ドル相当で手に入れたんだ(米国以外なので、現地ならもっと安いかも)。メモリ帯域幅は608 GB/s。M5 Maxの32コアGPU版が460 GB/s、40コア版が614 GB/sだからね。3090は900 GB/sくらいあってまだ速いけど、同等のNvidiaカードよりずっと安く32GB VRAMが手に入る。5090の3分の1の帯域幅だけどコストも3分の1、それでVRAMは同じ32GBだ。予算を抑えつつ大きなコンテキストや量子化モデルを動かしたいなら、魅力的なトレードオフじゃないかな。
まだローカルモデルの実験段階だから、試すだけで5000ドルも1万ドルも払いたくないんだよね。多少性能が落ちても、手頃に試せるなら気にしない。
実際、まずはスタックとの相性を試すためにB50 16GB(TDPわずか70W!)を買ったんだけど、UbuntuとVulkanで何の問題もなく動いたよ。苦労したとか使えないとかいう意見をよく読んだけど、それはSYCLを使おうとしてるからじゃない?Vulkanより優れてるわけでもないのに、なぜわざわざそっちを使うのか謎だね。(B50は税込みでたった370ドルだった)。単純に apt install でVulkanライブラリを入れるだけで、26.04のデフォルトのxeドライバーとllama.cppのVulkanビルドで動いた。SR-IOV PF/VFもqemu/kvmでそのまま使えたし、小細工なしだよ。買ってからfwupdmgrでファームウェアが2回も更新されたから、Intelもこの製品をちゃんとサポートしようとしてるんだろう。
自分はM3 Max 64GB RAMのMacBook Pro 16インチで、opencodeを動かしたqwen 3.6 35b a3bを走らせてるけど、ローカルのプランニングやコーディングには最高だよ。正直、64GBでもこれだけパワフルなら、将来を見越して128GBにしておけばよかったかなと思うことはたまにある。ただ一方で、qwenより少し大きいモデルでも壁にぶつかったことはないから、そこまで不満はないかな。
ユニファイドメモリのコンピュータ(DGX Spark, Mac, Ryzen AI Max 395 / Strix Haloなど)を買う前に知っておいてほしいのは、高密度(dense)なモデルはこれらのマシンだと動きが遅いってこと。専用GPUの方が高密度モデルを圧倒的にうまく動かせる。狙ってるマシンのベンチマークはしっかり見ておいた方がいい。どうしてもこっちを使いたいなら、Qwen 3.6 35BのようなスパースMoEモデルを動かす方が幸せになれるはず。
ローカルでモデルを動かすのは楽しいけど、今の時点では経済的に見合うとは思えないな。OpenRouter経由で同じモデルを使う方が圧倒的に安いからね。
真面目な話、OpenRouterに10ドルだけ入れて、ローカルで動かすには重すぎるけど安くて高性能なモデル(deepseek v4 flashの非量子化版など)を触ってみるといい。その10ドルでどれだけ高品質なモデルが使えるか驚くはずだよ。ローカルで動かせるモデルなら、もっと長持ちするだろうし。ローカルで動かすための投資額や電気代と比べたら、どれだけコストが浮くか考えてみてよ…