2040年のAI：生き残るための「プランA」とは？

2040年のAI社会を見据えた、エンジニアが今取るべき戦略プランAについての考察です。

炭素税ですら政治キャンペーンにとっては致命的な政策になり得る現状で、ASIへの恐怖がAIの一時停止を求める現実的な動きを生むなんて考えるのは無理があるよ。もしAI開発を停止させる動きがあるとすれば、それはAIの安全性という観点からではなく、一般大衆がそういった企業に対して抱く嫌悪感からくるはずだ。

言い方で反感を買うかもしれないけど、純粋な疑問があるんだ。人類が集団として「知識の追求をしない」と決めて、それが成功した例ってあるの？核兵器がいい例かもしれないけど、実際には研究が止まったわけじゃなくて地下に潜っただけで、今でもその高みを目指そうとする国があるよね。ただ、それがLLMやAIにどれだけ当てはまるのかは分からない。パンドラの箱はもう開いてしまっていて、唯一の選択肢は改良を続けることしかないように思える。その恩恵には明らかに価値があるし、権威主義的な政府や監視社会といった危険性は十分理解しているつもりだけど、だからといって全てを捨てるべきだとはどうしても思えないんだ。印刷機まで遡れば、どんな技術だって政府が国民を抑圧しやすくしてきた。政府のそうした行為を防ぐための法律作り（そしてその施行！）こそが進むべき道であって、現実から目を背けることじゃないと思う。もしかすると私はひどくナイーブなのかもしれない。ずっと夢見てきたSFのような未来が目の前に現れて、現実が見えなくなっているのかもね。「知識は自由かつアクセス可能であるべき」という理想が間違っているのかもしれない。正直、よく分からないんだ。

個人的には、指数関数的な曲線の入り口にいるんじゃなくて、すでにS字カーブの頂点に達しているように見える。少なくともLLMに関してはね。より良い学習データで小幅な改善は進むだろうし、アーキテクチャの進化で計算コストは下がるだろう。ハイパースケールなデータセンターのおかげで安価でどこでも使えるようにもなる。でも、だからといってAIが指数関数的に賢くなっているわけじゃないんだ。

「AI 2027」の論文は楽観的すぎると感じたけど、完全に空想というわけではなかった。でも今回の論文はあまりに憶測が過ぎるし、表面的な推論すら通っていないような前提に頼っている。楽観的な条件下でも、2035年までに「認知・身体的タスクの95%をこなせる」ロボットなんて登場しないと思う。74%の失業率なんて到底ありえない。そんな数字が現実味を帯びるずっと前に、経済崩壊でAI開発そのものが潰れるだろうね。

プランCとプランAの論理的な矛盾に気づいた人は他にいない？プランCでは「AIの研究開発に必要な人数が減り続けているため、隠密プロジェクトが検知されずに遂行しやすくなっている」と言っている。一方でプランAでは「AIの学習には膨大な数のAIチップが必要で、ほとんどのチップは巨大データセンターにある。50個のAIデータセンターは宇宙から見えるほど巨大で、目立つインフラが必要。新しいAIチップの製造には台湾、韓国、米国、中国にある限られた工場（ファブ）が必要。米中がそれらの国と交渉し、データセンター保有者に主要な売買の公開を義務付ける」と言っている。プランAが前提としているAI学習の条件は、プランCが「存在しない」と主張している条件そのものだよ。

これまで見た中で、間違いなく最も現実的で楽観的なAIの離陸シナリオだよ。特に、AIのアライメントと権力集中の問題の両方に十分な対応策を示した初めての論文だね。ハードなアライメントが前提の世界においても（このシナリオでは2038〜39年頃までAIはアライメントされていないと仮定されている）、すごく説得力がある。素晴らしいよ。AI安全性という分野に、ふさわしい影響を与えてくれることを期待してる。

中国による工作活動の一環に聞こえるな。中国側のコンプライアンスなんて検証も強制も不可能に近いし。向かっている先が恐ろしいのは確かだけど、人類の常として、本当にひどいことが起きた後にしか大規模な反応ができない中で、どうやって相互協力に向けたジレンマを解消できるのか想像がつかない。

「アメリカには2つの労働力がある」って言うけど、世界中の他の国だってAIを使えるってことを忘れてない？

NYTの今日の報道によると、ロシアと中国が欧米のSNSでデータセンターやAIに対するヒステリーを煽るための資金提供をしているそうだね。ゼロから作り上げるより、SNS上にすでにある感情をブーストして、それを大袈裟に煽って緊急かつ重要な問題だと見せかける方がずっと簡単だからね。

これは「AI 2027」[1]の関係者によるものだね。[1] https://ai-2027.com/ (https://ai-2027.com/)