Anthropicは本当にこれを求めていたのか？

Anthropicの最近の動向や機能追加について、ユーザーコミュニティの間で「果たして彼らが目指していた方向性はこれなのか？」という疑問が投げかけられています。開発者や利用者の期待と、実際のプロダクト進化のギャップについて議論が続いています。

Anthropicが自分たちの高尚な哲学的デタラメやエゴを脇に置いて、中立的な立場から考えればもっとシンプルに理解できるんじゃないかな。例えば、「ドゥームズデイ・デバイス社」という会社があったとする。彼らは最高品質の終末兵器を作って売っている。そしてネット上で「うちの兵器は最高で最強だ、でも同時に終末兵器は危険だから規制されるべきだ」と頻繁に吹聴しているんだ。その上で、「世界最高の終末兵器を作った」と言う（実際はそうじゃないかもしれないけど、彼らはそう主張する）。アメリカ政府は政治的な理由でその会社を嫌っているが、同時に終末兵器が大量に拡散することには利益を感じている。会社は「うちの兵器は史上最高にヤバい！」（たぶん違う）とか「誰でも使える！」（大金払えば）と宣伝することに時間も金もつぎ込んでいる。そんな状況で、政府が「いや、誰でも使えるようにはさせない、終末は困るから」と言うのは完全に論理的だろ（その裏で「使えるのは俺たちだけだ、お前らごときに指図はさせん」という意図もあるだろうけど）。政府に兵器事業を潰されたくないなら、あんなに大声で必死に「自分たちの兵器がどれだけヤバいか」を宣伝しなきゃいいんだよ。いくら自分が信頼できると主張しても、そもそも悪の終末兵器を作るのがビジネスなら、結局信用なんてされないんだから。

ここでの一般的な議論で抜け落ちていると感じるのは、AnthropicはAIが人類の生存や極端な大量監視、人間の無力化といった観点で、本気で存続リスクになると信じているという点だよ。だから、もしこうしたリスクを真剣に捉えるなら（HNの平均的なコメンテーターは明らかにそうしていないけど）、何が正しい行動なんだろうか？例えばOpenAIは完全に悪徳企業モードに入って、「Leading the Future PAC [1]」に全振りして規制を阻止しようとしている。Anthropicが「政府はほとんど正気を失っている」という意見に同意しつつも、アメリカがしっかり舵取りをして賢明な規制を主導することが、AIで良い結果を得る鍵になると考えているという筋書きは、十分にあり得ると思うんだ。

別のスレッドにも投稿したけど、ここでも言及しておく価値がある。というのも、Anthropicは記事でリンクされている投稿とは別に、約10日前にもこう求めていたんだ。https://www.anthropic.com/institute/recursive-self-improveme 「社会構造やアライメント研究が技術の進歩に追いつくまでの間、フロンティアAIの開発を減速または一時停止する選択肢を持つことは世界にとって有益だと信じている」と。その後の今週の輸出禁止発表への回答で、彼らはこう書いている。「もしこの基準が業界全体に適用されれば、フロンティアモデルを提供する全プレイヤーの新規モデル導入は事実上停止するだろう」と。これこそが、彼らが有益だと言っていたことそのものだ。

そして、政治的な贔屓や恣意的な決定に対する保護措置が必要だ。AnthropicはGPT 5.5でも同じジェイルブレイクが可能だと言っていなかったか？ > 私にはそれがあると思える：それは「裁判所」だ。ダリオは我々と同じように自由に訴訟を起こして裁判官の前に立ち、自分が政治的な贔屓や恣意的な決定の被害者だと訴えることができる。それこそが、まさに法制度の本来の目的の一つだ。これはここでは現実的じゃないよ。確かに仕組みは存在するけれど、今回のイテレーションやデプロイのスピードを考えると、解決に数ヶ月から数年かかる訴訟を起こすのは現実的な解決策とは言えない。

この状況を、単に権威主義的な政府が勝者と敗者を選別しているだけかもしれないと疑ってかからない奴は、政治情勢を全く見ていないな。企業や国、個人はあらゆる手段（仮想通貨、ギフト、胡散臭い和解金、飛行機、就任パーティー、舞踏会など）を使って政府に賄賂を贈っている。政府に貢いだ企業は大きな契約や合併合意を取り付け、そうしない企業は監視の強化や訴訟、脅迫を受けることになる。OpenAIとSpaceXは政権と仲良しで、Anthropicは（少なくとも政治的には）そうじゃない。このペナルティが新しいモデルに対する合理的で妥当な反応なのか？そうかもしれない。あるいは、政府がやりたいこと――つまり政敵を罰すること――をするための単なる言い訳かもしれない。この政権下でそれが起きたのは、今回で1回目、2回目、3回目、いや10回目か？

コメントしすぎかもしれないけど、これだけは言わせてくれ。AI規制が良いかどうかという核心的な議論を避けつつ、Anthropicの行動を批判している連中の多くを見ると、「社会を良くすべきだ」というミームを思い出すよ。https://iea.org.uk/wp-content/uploads/2021/12/mister-gotcha-4-9faefa-1.jpg

絶大な権力を持つ人間が、自身の傲慢さの犠牲になるのはほぼ普遍的な現象だと思う。自分の行動の結果から十分に切り離されてしまうと、現実の感覚と自分を繋ぎ止めることは「ほぼ不可能」になるんだ。だから、アモデイはここで「堀」を築こうとしたんだと思う。Anthropic以外は誰も到達できないレベルに安全性という高いハードルを設置し、それ以下は危険すぎて許可できないと宣言する。そうすればオープンソースモデルや中国のモデルを永久に阻止できるし、競合他社に対しても大きな壁を築ける。もしOpenAIがMythosに対抗する何かをリリースしようとしていたら、彼らはすぐに引き返して同等の安全対策を実装しなければならなくなる。IPOを控えたAnthropicの歴史上最も重要な局面で、他社を数ヶ月足止めできるかもしれない。とはいえ、彼らも自分たちのモデルが制限される可能性は計算済みだろう。それでも彼らはこれを、市場リーダーとしての地位や、最強のモデルを保有していることの強力な裏付けとして、勝利と見なしているはずだ。つまり両方とも真実で、我々は今「プランA」ではなく「プランB」のシナリオにいるということだ。

こうした議論すべてにおいて、世間のAnthropicに対する認識がどこで切り替わったのかを追うのは興味深い。私の中では、つい2月までは、Anthropicは世界で圧倒的に「最高の」企業と見なされていた。熱狂的なファンがいて、右からも左からも称賛されていたんだ。国防省との契約の話は、世間の目から見て彼らを「都市が求める英雄」として決定づけた。その後、彼らは古典的なマネタイズの罠に落ちた。割引価格で成長を維持できなくなり、モデルの性能を落とし、キャッシングを廃止し、トークンあたりのコストを倍にして収益化を図った。その過程での透明性の欠如が、世間の評判を損なった。5月上旬までには、魔法のような倫理的スーパーカンパニーの魅力はすべて消え失せていた。Mythosリリースのキャンペーン全体は、意図的かどうかにかかわらず、その新しい物語の上に積み重なってしまい、彼らにとって良い結果にはならなかった。興味深いのは、同社が受けた反感の大部分が、単に最近の敵対的な営利活動のせいで生まれたという点だ。もしこれが3月に起きていたら、HNや世間の反応は全く違っていたはず。たった2ヶ月の「悪い行い」で、彼らがいま切実に必要としている世間の称賛という貯金を食いつぶしてしまったんだ。

結局のところ、これは全部PRと誇大広告で、「Fable/Mythosはあまりに優れているから、これほど多くの規制や管理を引き寄せたんだ」という考えを植え付けているだけじゃないか。そうやって、開発者一人あたり月額2万ドル以上払わせようとしているんだよ。Opusで済まそうなんて思うな、さっさと財布を開け、というわけだ。

まだ学ばれていない大きな教訓があると思う。アモデイやAnthropicの誰がどれだけ道徳的かは、文字通り関係ないんだ。いざとなったら、アメリカ政府が介入して全てを奪えるんだから。彼らはアメリカ政府の条件でゲームをするか、それとも取って代わられるか、破壊されるかの二択だ。自分たちがこの技術の条件を決定できると思い込むのは、彼らの誤解だよ。