Anthropic CEOダリオ・アモデイ氏、国防省との「対話」について声明を発表

AnthropicのCEO、ダリオ・アモデイ氏が国防省（Department of War）との議論に関する公式声明を発表しました。AIの安全性と国家防衛の境界線について、同氏がどのような見解を示したのか、エンジニアやポリシーメーカーの間で大きな注目を集めています。

議会が改称しなかったから「戦争省」って名前じゃないだけだよ。それはさておき、よく言ったね。

読んでて本当に気が滅入るよ。アメリカはどうなっちゃうんだ？正気が勝って、次の選挙では不平不満を煽るんじゃなくて、有能なリーダーが出てくることを願おう。

Claude Maxをサブスクしてて本当に良かった。やっと影響力のある人が、権力に媚びを売らない姿勢を見せてくれたね。これが他の人たちの勇気にもつながるといいな。

途中まで読んでて、ある一文にカチンときた。「今日の最先端AIシステムは、完全自律型兵器を動かせるほど信頼性が高くない」ってところ。つまり、今は無理だけど「学習データ」が十分に集まれば道は開けるってこと？前の段落を読み返して気づいたけど、これ具体的には「AIによる国内の大量監視」だけを批判してるんだよね。部分的な自律型監視を否定してるわけでも、国外へのAI監視に釘を刺してるわけでもない。ガッカリだ。「Anthropic（人間中心的）」って、人類全体を心配することだと思ってたのに、「身内」か「他人」か、みたいな話かよ。でも、戦争省との話し合いについての公式声明なんだし、最初からこうなるって予想しておくべきだったかな。

こういう問題は全部、議会が行政に権限を丸投げしちゃってるから起きてるんだ。軍隊は法的に何ができるか、できないかを法律レベルで制約して、立法府で抑え込むべきだよ。それを実現できるのは市民の行動だけで、それ以外にエネルギーを向けても無駄。民間企業が軍の行動を指図するなんて、絶対許しちゃいけない。笑っちゃうほどあり得ない話だけど、もし本当にそうなら目も当てられないよ。技術なんて接収すればいいだけだし、企業や個人にできることなんて何もない。データセンターを接収して中でモデルを開発することだってできるんだから。本来できないはずのことで、実際には能力もない民間企業のCEOたちが神格化されてるのを見ると、いかに現実の捉え方が歪んでるかがよく分かる。

利益と価値観がぶつかったときに、その組織の本当の姿が見えるよね。Anthropicが莫大なVC資金を調達してるのに、信念を持って立ち向かってるのは素晴らしいと思う。多くの企業はこんな選択をしないだろうし、この勇気がもたらす結果をうまく乗り越えられるよう応援してるよ。

この投稿で一番強烈なのはここだね。「セーフガードを維持するならシステムから排除すると脅され、『サプライチェーンのリスク』というアメリカ企業には前例のないレッテルを貼ると言われ、国防生産法を発動して強制的に外させるとまで言われた。この2つの脅しは矛盾している。片方ではセキュリティリスクだと言い、もう片方ではClaudeを国家安全保障に不可欠だと言っている」。この矛盾したメッセージを見れば、政府がどんな手を使ってでも何でもありにさせようとしてるのは明白だね。Anthropicの「政府がAnthropicを使わないようにする手助けなら喜んでします」っていう返しはすごくいい。確かに戦略的な言い回しだけど、これでボールは現政権側に投げられたわけだ。

力強い投稿だ。自分の立場を明確にしたのは立派だけど、最近、競争上の理由でセーフガードを緩めてることを考えると、ちょっと疑問が残るかな。

前にAnthropicで働いてたんだけど、今週初めにRSPの更新についてもコメントを書いたよ。Anthropicのリーダーたちが、価値観に従うために自分たちの地位を失うリスクを冒してでも戦おうとしてるのは心強いね。HNであまり理解されてないと思うのは、Anthropicの人たちがどれだけ理想に燃えているか。たとえ目標達成のために現実的なアプローチを取るにしてもね。ダリオ、ジャレッド、サムたちは、自分たちの価値観に反することや、長期的にマイナスになると思うことに加担するくらいなら、マジで火あぶりにされた方がマシだと思ってるはず。もちろん、彼らの決定にいつも賛成するわけじゃないし、Anthropicが完璧な会社だとも思わない。理想主義的なグループがひどいことをした例なんて過去にいくらでもあるしね。でも、Anthropicで重要な決定を下してる人たちの多くは善意で動いてるし、理想を持って、強力なAIへの移行をなんとかうまく進めようと本気で頑張ってると思うよ。