AI開発の最前線、アクセルを踏みすぎるな：技術進化の歩調を考える

私たちはAI開発の最前線において、今一度冷静にその進歩のスピードを見直すべきではないだろうか。技術の爆発的な進化は魅力的だが、社会実装の準備が整う前に突っ走りすぎることには慎重であるべきだ。

蒸留（Distillation）は消費者にとって素晴らしいものだ。競争を促進し、OpenAIやAnthropicがコンピュートリソースで持っている巨大な参入障壁を減らしてくれる。さもなければ彼らが独占企業になっていただろうからね。それに、人類の膨大な知識を使って安価にトレーニングされたAIが、その人類の知識を市場価格で活用する競合他社を許容するのは公平というものだ。

Darioが提案するアプローチは、資本が技術的進歩や生産手段をコントロールしようとする典型的な例だよ。人類史上初めて、労働者階級の誰でも専門の科学者・医師・弁護士・エンジニアのチームを直接雇っているような状態をほぼ手に入れられるようになったんだ。

超知能（自分より賢い知能をたくさん部下として使える能力）は、これまでずっと裕福で権力のある者だけのものだった。彼らはそれを使って核兵器を発明し、気候変動を引き起こし、戦争を機械化し、グローバルサウスを搾取してきた。

今、その同じツールが誰にでも手に入る一歩手前まで来ている。だから資本はパニックを起こしてフェンスを立て始めているんだ。彼らは自分たちでコントロールできない革命のブレーキをかけたがっている。自分たちが超知能で何をしてきたかをわかっているから、（それほど理不尽ではないかもしれないが）大衆が同じ力を持ったらどうなるかを恐れているのさ。

「中国と相互減速の合意を結ぶ必要がある」という目標と、「中国に対して常に先行し続けなければならない」という目標がどうやって両立するのか全くわからない。

中国政府がそのような合意交渉で最初に要求するのは、チップと蒸留に対する禁止措置の撤廃だろうね。

「これらの措置が中国との協力を困難にすると考える人もいるかもしれないが、私は逆だと思う。これらの措置は民主主義陣営のレバレッジを強め、将来的な合意をより可能性の高いものにする」

信じたいものを信じればいいけど、僕から見ればその場合の「レバレッジ」とはまさに、そうした措置を解除する権限のことじゃないかな。レバレッジとして使いつつ同時に維持するなんて、両方を手に入れることはできないよ。

フロンティアの進歩をペース配分するという考えはいいと思うけど、規制の話をするなら別の形の規制の方がもっと好きだな。つまり、AIが発展する過程で経済を破壊しないように、企業環境でのAI利用を制限することだ。

「ペース配分」で広範な合意を得られる可能性はかなり低い。つまり、そんなことは起こらずに競争は続くだろうね。仮にフロンティアがペース配分されたとしても、結局は経済的な置き換えを少し遅らせるだけで、大した効果はないだろう。

もしAIの社会的な利益目標が医学や科学の根本的な進歩にあるのなら、AIの利用をその目的に限定すればいい。

グラフィックデザイナーから会計士、ソフトウェア開発者に至るまで、あらゆる仕事を置き換えるためにAIを使うなよ。少なくとも大企業に対しては、人間を置き換えるようなAIの使い方を禁じる法的制限を設けるべきだ。

AIの売り文句はいつも「人々の生活水準が上がる」というものだけど、実際に目にする行動は、それを真っ向から引き下げるようなものばかりだ。ラボは口先だけでなく、本当に大切だと言っていることに集中して、人間の労働をすべて置き換えるのをやめてみたらどうだ？それを強制する法案を作るのもいいんじゃないか？

フロンティアのペース配分よりさらに実現の可能性は低そうだけど、これこそ多くの人が本当に望むようなペース配分の形だと思う。

全く同意できない。僕たちの選択肢はこうだ：

A) 世界がこれまでに知る最も強力な経済ツール（あるいは兵器）の開発を減速させるために、すべての企業、国、人々が協力するという集団的利益に賭ける。

B) すべてのシステムが「今この瞬間にも」スーパーハッカーの標的になっていると仮定して、その現実に立ち向かうための適切な措置を講じる。

もしコミュニティの幸福をどちらか一方に賭けなければならないなら、僕ならどちらを選ぶか明らかだよ。

一体どの段階まで僕たちはAnthropicの経営陣の誠実さを信じ続け、これまでの実績を無視し続ければいいんだ？

• ウェイトは非公開

• Claudeを使ってAI研究はさせない

• 他人の知的財産でトレーニングして、それを売り返す

• これまで8回もの規制の取り込み（Regulatory Capture）を試行

• あまりの独裁ぶりに、米国企業でありながら米国政府からブラックリスト入りした唯一の企業

これは「効果的な利他主義」や「合理主義」が行き過ぎた結果なんかじゃない。倫理を装った独占的で反競争的なビジネス慣習そのものだ。彼らのセンセーショナルな宣伝に惑わされるのをやめて、独占禁止法を適用するまで彼らはやりたい放題だろうね。

Altmanは嫌われがちだけど、OpenAIは（少なくとも上記の5点のうち3点に関しては）Anthropicよりはるかにマシな管理運営をしてきたと言えるよ。

ここでRSI（再帰的自己改善）こそが真の脅威だと言っているコメントが理解できない。Darioは自分たちがアライメント（整合性）を解決できていないと認めているんだよ。アライメントなしに性能だけ向上させれば、LLMはただの無法な犯罪生成マシンになるだけだ。この「フロンティアのペース配分」という呼びかけは、利他主義を装っているが、結局は彼らが市場で勝てる製品を作れなくなったという告白に過ぎない。フロンティアのペースを落とすということは、米国のラボが競争優位を失い、完全に終わったということを意味する。

突飛な話に聞こえるかもしれないけど、Darioはトップにいることに恐怖を感じているように見える。彼にこのような会社を運営したいという欲求がもともとあったのかも疑わしい。CEOになってしまった今、彼は競争力を失うような判断を繰り返しては、誰か（誰でもいいから）に自分を止めてほしいと訴えているようだ。それが定期的にAnthropicの鋭さを鈍らせている。

歴史を学ぶ者なら誰の目にも明らかな「失敗する未来」を彼らが選んでいる理由はこれしか考えられない。そんな統治機関がどれほど悪用されるかは想像に難くないし、今僕たちが想像できないような形でさらにひどいことになると確信している。Darioは自分が何を作っているのか分かっていないんだ。今回ばかりは、AIの話じゃない。

Anthropicは近々上場する予定だけど、以前のようなペースで性能向上を続けるのは無理だと悟ったんだろう。もしフロンティアが制限されれば、彼らは未リリースの機能を「コントロール外の要因によりリリースできない」と宣伝し続けることができる。そうすれば、モデルを改善するための時間をさらに稼げるというわけだ。

外部による監視やインシデント報告といった部分はもっともだと思うけれど、残りの大部分は中国と彼らのオープンモデルを制限することに焦点を当てているように見える。彼らが明らかにAnthropicのモデルの能力に追いつきつつあるからね。