Aleph Alphaが放つオープンウェイトモデル「Kolibri」登場:その実力と技術背景に迫る
Kolibri: A Sovereign Open-Weight Model
Kolibri: A Sovereign Open-Weight Model
Aleph Alphaが新たに公開したオープンウェイトモデル「Kolibri」に関する技術情報です。詳細は以下のドキュメントおよび解説記事をご確認ください。技術レポート: https://aleph-alpha.com/downloads/tech-report.pdf 追加の解説ペーパー: https://tej.as/blog/aleph-alpha-kolibri
RTX pro 6000の環境で試してみたけど、正しいアプローチを見つけられても、考えすぎてトークンを浪費しすぎてる感じがあるな。一方で、アクティブパラメータが3Bしかないおかげで、fp8だと170 tkn/sくらい出てて速度はかなり良いよ。
アクティブパラメータ数が近い(6B)MoEモデルのQwen3.8 Flashとの比較が一切ないのはかなり目立つよね。代わりに、もう1年も前にリリースされたQwen3-Next 80B-A3Bと比較されてるし。モデルの「本質的な価値」が否定されるわけじゃないにしても、ちょっとね……。
今のソブリンAIモデルに求められる最大の役割って、他のモデルが出した結果を監査することだと思うんだ。今のオープンモデルなら政府系の用途でも十分通用する性能があるけど、とにかく信用できないのが問題だからね。そこで、ソブリン側で管理されたモデルを監査役として置いて、「信頼アダプター」のような役割をさせる。もし2つ目のモデルが安くて高速なら、十分にビジネスとして成立するはずだよ。全部のプロセスを細かく見なくても、ツール呼び出しと最終結果さえチェックすればいいわけだし。
Aleph Alphaチーム、公開してくれてありがとう!僕らも他の多くの人と同じで、さっそくベンチマークを試してみたくてうずうずしてたんだ。ささやかな応援として、Kolibri-1をホストして誰でも無料で試せるようにしたよ。GPUもセットアップも不要だから、ぜひ試してみて。
tesseracted.com/kolibri-1-chat/
https://x.com/konarkmodi/status/2106373678589960260?s=46 (https://x.com/konarkmodi/status/2106373678589960260?s=46)
Kolibri独自のベンチマークのドイツ語部門だと、Qwen3.8 27BがKolibriの70.8に対して79.9で上回ってるよね。それに、Cohereによる買収が完了した後も、90%の株を握られて運営もトロント拠点なのに「ソブリン(主権)」を名乗り続けられるのかどうか気になるわ。
この論文、まるで「独自のモダンなエージェント型LLMの作り方」のチュートリアルのように、すべてを網羅的に解説してる。データセットの作り方まで公開してるしね。https://aleph-alpha.com/downloads/tech-report.pdf (https://aleph-alpha.com/downloads/tech-report.pdf) ; ここまでオープンなのは初めて見た。
主権をこれほど強調する投稿でありながら、カナダの企業であるCohereと合併予定という事実に触れていないのは、少しミスリーディングだと思う。
まあ、それ自体は良いことだし隠す必要もないよね。開発競争のコストが膨れ上がる中、米中以外の数少ない企業は、もっと協力してコストや労力を分担する必要がある。
カナダにとっても自国主導のAIの選択肢は不可欠だけど、それを単独で資金調達するのは金の無駄遣いみたいなものだ。このドイツとカナダの新しい会社がMistralや、あるいは韓国のAI企業のどこかと協力するところを見てみたい。
我々はKolibriをアブステンション(棄却)データとMerlin-Arthurプロトコルを用いて学習させた。その結果、文脈内に答えがない場合には「わかりません」と答えるように学習されている。
https://aleph-alpha.com/en/blog/bounding-hallucinations-merl... (https://aleph-alpha.com/en/blog/bounding-hallucinations-merlin-arthur-protocols-for-mutual-information-bounds-in-language-models/)
透明性の高さと、コーディングやエージェントタスクでも十分に機能する優れたモデルであるという点に加えて注目すべきは、これが結成1年未満のチームによる最初のリリースであり、イテレーションの速度に強くこだわっていることだ。これからも期待していいよ。
disclaimer: 私はトレーニングチームの一員です。何か質問があれば答えますよ。
関連する進行中のスレッド:
Aleph Alpha Kolibri: How the sovereign German LLM works - https://news.ycombinator.com/item?id=49943034 (https://news.ycombinator.com/item?id=49943034) - 2026年10月 (162コメント)