性愛とAI、そして訪れる終末：テクノロジーは人間をどう変えるのか？

AIの進化が止まらない今、かつてSFの世界だった「AIと人間の関係性」が現実味を帯びてきました。本記事では、AIが性愛や人間関係、そして社会システムにどのような変革や破壊をもたらすのか、その深淵を考察します。

妙なことが起きていると言うつもりはないけど、この記事は「連帯責任」で攻撃しすぎだよ。ネオリアクショナリー、ポリアモリーの合理主義者、終末AI研究者、それにZiziansを一括りにして一つの大きなネットワークとして語っているんだから。

AIに関する考え方の枠組みは、かなり同質なグループによって形作られてきたね。彼らも他のサブカルチャーの人間と同じで、間違いなく集団思考に陥りやすい。この集団をそういうものとして見ることが極めて重要だよ。何千人もの異なる視点があるわけじゃなく、同じものを読み、同じ人間と話し、似たような考え方をするだけで報酬を得られる、連携した連中の合唱なんだから。彼らの多くはHNを読んでいて、こう言われると不快に思うだろうけど、人間である以上、文化に囲まれているとそういう欠陥から逃れられないのは避けられない事実だよ。AIを常に核兵器と比較しない世界線だってあるはずさ。そういう世界の方がP(doom)は低いだろうね。

「警告している連中は変人か利害関係者だから信用できない」っていう主張は本当に奇妙な角度だよね。ゼロから始めて、今まさに起きている事実を見て、そこから破滅までの直線を引けばいいだけなのに。まるでオッペンハイマーたちが最初の核実験を見ていた時に、彼らが大げさに言っていると疑うようなものだよ。

政権内の大きな懸念は、AIの進歩にブレーキをかけようとすれば景気後退を招くということ。つまり、選挙に勝つために（現政権にとってほぼ負け戦だろうけど）、人類の未来を危険に晒すような歴史が刻まれることになるんだ。

事態が奇妙になれば、変人たちがプロになる。未曾有の事態について論理的に考えられる人間なんてそういない。できる連中は心理的に変なプロファイルを持っていることが多いけど、普段は無視すればいい。でも、時々そうも言ってられない時があるんだ。

筆者はYudkowskyや彼のHPファンフィクションに対して、妙に執着しているように見えるな。AI企業に向けられた世間の怒りを、彼を揶揄するためのチャンスと捉えているんだろう。

AIの安全性や世界の終わりについての懸念が最近になってあなたの生活に入り込んできたのなら、それはおそらく退職願のせいだろう。

いや、違うよ。広範囲に及ぶ、よく調整されたFUDキャンペーンのせいさ。あの退職願はその中の一つのサルボ（一斉射撃）に過ぎないし、他と同じく仕組まれたものだよ。LLMを「AI」と呼んで救世主のように扱うのは好きじゃないけど、頭の悪い恐怖煽りもそれ以上に好きじゃないな。

ああ、またか。合理主義者の深い沼にハマり込んだ人々の個人的な歴史に直面したいなら、「Behind the Bastards」ポッドキャストのZiziansに関するエピソードを聴くことを勧めるよ。そう、ハリー・ポッターのファンフィクションもその中心にあるんだ。

人格攻撃はもう飽き飽きだよ。全人類を置き換えようとしている連中の方が、まだまともだとでも？合理主義者は、整列化されていないAIが学習環境を脱走することをずっと予測してきたし、実際にそれは起きた。彼らは（他にもあるけど）今後もそれが続くと信じているし、調整可能で制御できる強力なAIを作ることは現在不可能だと考えている。君自身で一線を引いて、彼らの視点を検討に値すると確信するためにどんな証拠が必要か、決めたほうがいい。彼らの信念や予測のすべてに同意する必要はない（自分もそうだし）けど、彼らの議論は、たまたま説得力のあるブログ記事を読んだ変なサブセットのキャラ付けで判断するんじゃなくて、中身で評価するべきだよ。

EA Safetyに関するVenkatesh Raoの考察 と併せて読むのが一番いいかもね。