AIと自動化で「人間ゼロ」の経済は実現可能か？

完全なる「人間ゼロ」の経済、つまり労働を必要としない社会は技術的に見て本当に不可能なのだろうか？AIやロボティクスの進化を見る限り、理論上は不可能ではないのかもしれない。

これはCharles Strossが書きそうな、（恐ろしいほど）リアルな話だよね。

先走って言うと、経済なんて結局のところペーパークリップ・マキシマイザーとヘドニウム・マキシマイザー、そして自分たちの利益を最大化するためだけにトレードし合う5つの異なるAGIで構成されるってことにならない？

前提を疑えとか論理の飛躍をするなと言いつつ、この記事自体がとんでもない前提に基づいているよ。（なぜか特に西洋の政府が）この記事が指摘する問題に対して何もせず、民主主義を完全に放棄して警察や軍隊による抑圧に頼るようになるとか、大規模な失業と貧困を警察力だけで抑え込めるはずだといった思い込みはかなり強引だ。

将来のAI技術の可能性を知りたければ、この投稿者のようなソフトウェアエンジニアの話を聞くべきだ。でも、AIが経済に与える影響を知りたいなら、ソフトウェアエンジニアじゃなくて経済学者の話を聞くべきだよ。

これも参照：https://www.owenmcgrann.com/p/the-dead-economy-theory 17日前にここで徹底的に議論されてたよ：https://news.ycombinator.com/item?id=48324712 （コメント1426件）

多くの人は、人間が理解できる経済が、この宇宙における富や生産性の究極のゴールではないことに気づいていない。経済が人間向けで人間が理解できるものなのは、単に人間が生産と富の創出におけるボトルネックだったからに過ぎない。人間がその役割を終えたら、経済はもっと生産性の高い対象（AIエージェントやロボットなど）のために機能し始める。もしこのことが理解できていれば、「永久的な下層階級」という考え方が滑稽だってことに気づくはず。AIによって1000倍効率的で高速な世界になったとき、人間の労働力が生産の始まりや終わりの基準になることは許されない。そんなことが可能なレベルのAIなら、人間からの金銭的な承認なんて待たないからね。

AIがこれからやろうとしているのは、労働の価値を大幅に下げて、資本の価値を大幅に上げることだろうね。政府運営には膨大なキャッシュフローが必要だけど、今後は労働力からではなく、資本側から徴収せざるを得なくなるのは不可避だと思う。

前々からここで何度も言っているけど、最終的には少数のAIオーナーたちが自分たちの間でトレードし合うだけの世界になると思う。AIが再帰的に自己改善し、ロボットが肉体労働や戦闘を代替できるようになれば尚更だ。オーナーたちは土地、AI技術、鉱物、エネルギーを取引するだろうね。これらは他のAIコングロマリットが所有するものになるし、経済の1%を占めるような、AIでは代わりの利かない人間のエンターテイナーみたいな例外的なものだけが残るんだろう。

なぜ人間レベルのAIが実現したとして、それが生産手段や資本と違う結果をもたらすと信じられるんだろう？これは勝者総取りのゲームだよ。ごく少数が世界の富をすべて蓄積するだけ。産業革命よりも効率的になるはずだ。肉の塊（人間）を守るための武器を作れるだけでなく、肉の塊自体を排除して、自分を守るためのロボットを量産することだってできるんだから。

消費者ベースの経済という考え方は、ずっと馬鹿げていると思っていた。大衆が消費すべき理由は、彼らに働く意欲を持たせるため。そして、多くの人が働かなければならない理由は、人類が文明の夜明けから常に余剰生産物を作ってきたから。この余剰は一部共有されることもあるけど、どこを見ても明らかなように、基本的には「トリクルアップ（富が上に吸い上げられる）」するものなんだ。でも、機械が人間と同じことをすべてこなせるSF的な世界になったら、人間中心の経済なんて意味をなさなくなる。機械は働く意欲なんて必要ない。必要なのはエネルギーと材料、そして支配者の命令だけだ。そうなれば、経済は抽象的なものではなく、もっと直接的な物理学と結びついたものになるだろうね。