【オープンソース】コーディングAIを賢く使い分け！コスト半分・速度2倍を実現する「Weave Router 2.0」を公開
Show HN: Open-source model routing for coding agents at Astra-level performance
数ヶ月前、私たちは「複数のモデルを組み合わせれば、単一の高性能モデルを超えることができるはずだ」という仮説のもと、コーディングAI用モデルルーターの開発に着手しました。最近、ついにその目標を達成したので、今回はその舞台裏をお話しします。まず簡単に説明すると、Weave Router (https://github.com/weave-os/router) は、Claude CodeやCodexといったあらゆるコーディングAIにプラグイン可能で、タスクに応じてLLMをインテリジェントに切り替えるツールです。例えば、デバッグや複雑なシステム設計は高性能なAstraに、単純なフロントエンドの修正はDeepseek v4 Flashに、といった具合に自動で最適なモデルを選択します。今回発表する「Weave Router 2.0」は、Terminal Bench 4.0およびSWE Atlasのベンチマークにおいて、GPT-6 Astraと同等の成功率を叩き出しました。しかもTerminal Benchではコストを52%、処理速度を2.2倍に、SWE Atlasではコストを54%、処理速度を2.5倍に改善しています（詳細は公式サイト https://weaveos.com/router をチェックしてください！）。モデルの能力・コスト・キャッシュ効率などを考慮したルーティングの最適化は非常に困難でしたが、私たちは3つのアプローチで大きな飛躍を遂げました。1つ目は「新アーキテクチャの導入」です。最初はRL（強化学習）のみのアプローチでしたが、探索範囲が広すぎてコストがかかりすぎるため、探索空間を大幅に削減する設計に変更しました。具体的には、Hidden Markov Model（隠れマルコフモデル）でセッション状態を追跡し、分類器でモデルのバケットを決定する手法を採用。これにより「現在地」だけでなく「そこに至るまでの経緯」を考慮できるようになり、推論精度が劇的に向上しました。2つ目は「学習データの増強」です。フロンティアLLMを活用してコーディングセッションを大量にラベリングすることで、学習の質とRL報酬の精度を高めました。3つ目は「キャッシュ効率の改善」です。モデルを切り替える際のキャッシュ再構築コストをより正確に算出するサブシステムを構築し、不必要なスイッチングを減らすことで大幅なコスト削減を実現しました。まだ改良の余地はありますが、フロンティアモデルと肩を並べる性能を達成できたことは、アンサンブル学習の可能性を証明する大きなマイルストーンとなりました。Weave Routerはオープンソースとして公開中 (https://github.com/weave-os/router) です。誰でも自由に利用できるほか、ホスティング版 (https://weaveos.com/router) も用意していますので、ぜひ試してみてください。
