オープンソースAIへの反対論、正直言って論点がズレてない？

最近よく耳にする「オープンソースAI」に対する反対意見ですが、どれも説得力に欠けるものばかりだと感じています。技術の民主化を妨げるような主張には、もう少し冷静な議論が必要ではないでしょうか。

この記事、安全性のことなんてこれっぽっちも触れてないね。悪意のある連中が公開された重みパラメータを微調整して、天才レベルの詐欺を全自動で実行し、無差別に個人をターゲットにしまくったらどう止めるつもりだ？

ロビー活動で動く金には、そんなこと関係ないんだろうよ。

中国のモデルを巡る不安の多くは「AI開発競争に負ける」ことに集中している。だが、この競争のゴールは何なんだ？最高のモデルを作ることか？トークンを一番売りさばくことか？それとも人類を先に滅ぼすことか？

ある種の特異点（シンギュラリティ）に到達することだと言う人もいるだろう。SFじみた解釈を信じないとしても、AI開発には「ゴール」が存在し、それが実現されれば実質的に超兵器になるという、かなり現実的な議論は可能だ。Altmanも、これがいつか起こると予想していて、自分がそれを生み出す人間になるのが目標だと公言している。超知能じゃなかったとしても、サイバーセキュリティの脆弱性を突くといった能力を機械が持てば、政府のような組織にとっては非常に懸念すべき事態だ。最近、アメリカ政府が米国のモデルを規制した際も、そういった口実が使われていた。

繰り返しになるが、「シンギュラリティ」が現実に起きると信じる必要はない。ただ、何らかの形でそれが現実だと考え、それこそが「AI競争」でいうゴールだと捉えている連中がいるという事実は否定できないだろう。

他のコメントに補足。近い将来から中期的なAIの安全性に対する懸念の程度については、まともな人間同士でも意見が分かれるのは当然だ。だけど、そうした議論を全く無視するというのは、この記事の価値を著しく下げるものだと思う。

中国製のルーターやネットワーク機器にバックドアが仕込まれている例はこれまでも何度も見つかっている。中国製モデルを完全に監査するような方法は今後出てくるんだろうか？

これは「オープンソース」AIじゃない。

Photoshopのソースコード＋OSIライセンス ＝ オープンソース

Photoshopのバイナリ ＝ オープンウェイト（公開重み）

PhotoshopのSaaSウェブアプリ ＝ GPTやOpus/Fableのようなクローズドなモデル

議論されている中国のモデルには「オープンソース」と呼べる要素は皆無だ。彼らがやっているのは、API経由ではなく自分たちでバイナリを動かさせているだけ。

本物のオープンソースを求めるなら、OLMo 3のようなものを見る必要がある。

https://allenai.org/

OpenAIの幹部が、https://news.ycombinator.com/item?id=48997548 のわずか4日前に「中国の研究所から逃げ出した、無生物で目に見えず、危険で無限に自己複製するエージェント」とか言って不安を煽っていたのは笑えるわ。

「Xを止めることはできない」なんて、「Xは悪くない」と言いたいがための、怠慢で馬鹿げた言い訳だ。記事の残りの部分についてはノーコメント。

ローカルかつ無料のAIに反対する奴らがいる理由はただ一つ、企業に大衆をコントロールさせたいからだよ。アメリカは企業が支配する地獄だ。

その手の「議論」は誰かを説得するためのものじゃない。今回で言えば「AI」に関するオーバートンウィンドウを確立し、固定化するためのものだ。