AIの進化はどこまで制御すべき？加速するAI開発の是非について

AI技術が指数関数的な進化を遂げる中、その開発方針やポリシーをどう策定すべきか議論が活発になっています。この投稿では、AI開発の加速を推奨する立場と、慎重な制御を求める立場、双方の視点から今後の展望を考察します。

このIPO前の時期に、リリースや投稿、その他のニュースをほぼ毎日テック系のニュースサイクルを支配するようにスケジュールしているのは見事としか言いようがないな。

高度なAIモデルを開発するAI企業は、モデルのウェイト（重み）を保護する強力なセキュリティ基準を持たなければならない

つまり要するに、オープンウェイトのモデルを違法にしろってことだよね。Darioがここまで露骨に言ってくれるのは助かるよ。

彼がAI企業のための新しい法律や規制を次々と提案してくれるのは面白いね。私もいくつか提案してもいいかな？

• 著作権で保護された素材をモデルに埋め込んではいけない。
• 1日100万回ものスクレイピングクエリで、存在するあらゆる小さなウェブサイトを攻撃してはいけない。
• 自身のAI（あるいはロケット？）企業を宣伝するために、政治的影響力を使ってパンプ・アンド・ダンプをしてはいけない。
• CPUやメモリチップをすべて買い占めて、ITセクター全体を危機にさらしてはいけない。

これらの新しいルールは、あらゆる社会に直接的かつ良い影響を与えるはずだよ。ありがとう。

IPOの宣伝のためなのは分かってるけど、こういうのを読むと自分が何か見落としてるんじゃないかって思えてくるんだ。私は毎日エージェントを使ってるし、すごく便利で助かってる。でも同時に、少しでも自律的に判断させると、たいてい変な選択をして後で面倒なことになるから、完全な自律性は与えられない。世の中の多くの人がこの「指数関数的な進化」っていう考え方を信じてるみたいだけど、自分だけ何か見落としてるのか？ガンを治せるような魔法のツールが、まだ見つかってないだけなのか？

今のテック企業のCEOたちが、自分たちの努力を可能にしたオープンな研究開発の基盤を、競合の脅威になり得るからという理由で「安全性」の名の下に違法化しようとする、同じような倫理観を共有しているのは狂ってるよ。しかもその安全性とやらの定義も曖昧なままさ。

雇用喪失を遅らせたり軽減したりするために、賃金保険や雇用維持のための税制優遇措置、職業訓練助成金、労働市場のマッチングインフラの整備など、雇用促進政策のインセンティブが役立つ。AIがもたらす労働置換の性質によって介入策は異なるが、こうした政策がもたらすコストや市場の非効率性は、AI駆動の生産性向上によって相殺される可能性が高いため、積極的に受け入れるべきだ。

人々が所得を得る手段は、資本所得、労働所得、福祉国家の3つだ。もしこの技術が生産性の聖杯をもたらし、それに伴って雇用が減少するのなら、国民所得に占める資本の取り分をより広く、深い福祉国家に充てるべきだし、そうなるはずだ。新しく発明する必要なんてない。Darioの長く、やや整理されていない政策介入のリストは、単純な分配理論で十分なところに、あたかも必死になってあらゆる手段を講じているかのように見せかけているだけだよ。

前半を読んでも「規制による既得権益化」のプロパガンダとしか思えないな。結局のところ、こういうことだろ。

AIは主要な商用技術になった
フロンティアAIモデルは航空機のように技術試験と監査を義務付け、高い安全基準を満たさなければ公共の安全への脅威として公開を差し止めるべきだ
高度なAIモデルを開発する企業はモデルウェイトを保護する強力なセキュリティ基準を持つべきだ

まあ、Darioの経済的利益はさておき、ここが私にとって興味深い分岐点だ。

第2に、AIによる雇用喪失への対応は、経済的な生活の保障だけでなく、人々が意味や目的、主体性を見出す必要性にも対処しなければならない。後者の方が最終的には重要だ

私にはこれが世間知らずな発言に聞こえる。地球上のほとんどの人は、家賃を払うために働いてるんだ。もちろん仕事が意味や目的の源になるのは分かるけど、それを社会レベルで「より重要」と呼ぶのは、Darioのような富裕層の発想だよ。

最近はAnthropicやDarioほど傲慢な企業や人物を考えるのは非常に難しい。ハードルがすでにめちゃくちゃ高いのに、それを達成してるのはすごいよ。

せめてその傲慢さに正当な理由があればまだ許せるかもしれないけど、あまりにも露骨に偽善的で、間違った前提に基づいているから余計にひどい。

リスクは理解できるけど、解決策が理解できない。要するにDarioは、強力なモデルウェイトは配布してはいけない（オープンウェイトの禁止）、政府が調整して基準を合意し、政府が「危険」と判断したものについては使用をブロックすべきだと言っている。

でも、正当なアクセス権はどうやって付与されるんだ？まさかSonnetを禁止しろなんて言ってないよね。だって、実際に見かけるエクスプロイトなんて些細なものばかりだし、私でもサイバー被害を及ぼすような指示を出せるんだから。

彼の提案が機能するとしたらこうなるだろうな：

• オープンウェイトは廃止され、AIは少数の手に集中する
• AI版FAA（連邦航空局）がルールを作り監視する
• コードベースのセキュリティスキャンをしたければ、AI-FAAから時間と範囲が制限されたライセンスを取得し、クラウド上のClaudeでスキャンを実行する許可をもらう――Claude Mythos Scanner(TM)ってわけだ。

Darioの提案は最終的に、人々がAPI経由で推論へ直接アクセスすることを奪うものだ。だから彼らは、AIを後付けしたSaaSクローンばかり作っているのか？

多くの場合、これには正当な理由がある。政府は強大な権力を持っており、性急に行使されないのが最善だからだ。

「（イラン）戦争については触れるな！」