オンラインコミュニティが崩壊？「AI生成コンテンツのゴミ」が招く深刻な危機

今、ネット上のコミュニティがAIによって生成された低品質なコンテンツ（AIスロップ）で埋め尽くされ、深刻な危機に瀕しています。人間同士の有意義な対話はノイズにかき消され、コミュニティの価値そのものが失われつつある現状について、どう思いますか？

Redditはもうほとんど見限って、アクセスしなくなったな。試しにエージェントを使ってカルマ稼ぎやステルスマーケティングをさせてみたんだ。投稿されたものを見返したとき、読み手としてはこれがコンピュータによって書かれたものだなんて全く気づかないだろうってことに気づいてゾッとしたよ。大勢の人間（あるいは他のボット）がそれと普通に会話までしてたしね。

Hacker Newsも例外じゃないと思ってる。ここにいる「ユーザー」の多くがLLMだってことは事実だし。

オンラインコミュニティは確実に死に向かってるね。これを受けて、現実世界のコミュニティが復活してくれることを願うよ。

これって実はいいことかもしれない。ボットが書いたコメントや、本物と区別がつかなくなったAIコンテンツのせいで、俺たち人間がソーシャルネットワークを離れるようになる。それが結果的に、人間同士を分断していた要因を取り払うことになるんじゃないかな。

何を見ているかを心から信じられて、生身の人間の話し声や表情、匂いを感じられる現実世界へ戻ろうぜ。

ニッチなクリエイティブコミュニティを運営してるんだが、2022年にAI生成コンテンツを禁止したよ。コミュニティにとってどれほど有害なものになるか火を見るより明らかだったからね。

楽じゃないよ。毎日偽のAIアカウントをBANして、月におよそ600件ものAIコンテンツ作成アカウントを排除してる。

かなりの重労働だ。AIコンテンツが現れる前には必要のなかった余計な仕事だし、もちろんコストもかかってる。

この戦いに負けてしまうんじゃないかと恐れてるよ。

悲しいかな、よくある主張というのは「みんなが善人になって、ノイズを減らそう」という呼びかけだ。でも残念ながら、個人レベルでもグローバルレベルでも、そんなものは通用しない。

自分一人で静かにしていても、友人や知人、仲間がAIというスロットマシンに取り憑かれて、その「成果物」を熱心にシェアしてきたらどうする？実際そういうケースに遭遇したんだが、最初から拒絶したり冷たく当たっても無駄だったよ。彼はひたすら色々なアーティファクトを撒き散らし続けてる。

グローバルに見れば、コミュニティが死滅しているのは確かだね。今やグローバルなコミュニケーションは、メリットよりも負債の方が大きいんじゃないか。90年代後半から2000年代、せいぜい2010年代前半までは、繋がればいいクライアントに出会えたり、雇われたりしたものだ。でも今は、2022年のChatGPT以前からどの分野も飽和して買い叩かれるようになっているし、驚くことにLLMは新しい価値をほとんど提供せず、ただこの傾向を加速させただけだ。

私が働いている会社には根強いコミュニティ文化がある。大手テック企業が何をしようと、我々のコミュニティ機能は100%ユーザーの利益のために存在していると断言できる。グレーな部分なんて一切ない。本当にそれだけだ。

AIによる「スロップ化（質の低いコンテンツによる汚染）」が始まって以来、ボットのせいでかなりのトラフィックを失った。でもそれ以上に、他のユーザーと貢献し合えるような大事なユーザーを失ったのが痛い。

コミュニティデータをメンバーに還元する手段はいくつもあるから、それで損をしているわけじゃない。問題は、プラットフォームを取り巻くコミュニティがいかに人々に貢献してきたかという30年分の実績が、今すべて危機に瀕していることだ。

誤解しないでほしいのは、仕事はあくまで仕事だということ。プレミアム機能もある。でも、このプラットフォームが知られているのは、無料で得られる価値の大きさだ。何年も無料で使って、必要になった時や余裕がある時に課金し、そして何年も居続けてくれる人がたくさんいることを私たちは知っている。

人々がそういった繋がりを失いつつあるのが、本当にやるせないよ。

今のオンラインコミュニティにおけるLLMのバランスは完全に崩壊してるね。人間は似たような価値観を持つ者同士の交流を求めてるんだから、本物のオンライン体験を提供できる場所が成功するはずだ。時間をかけて信頼を築くような、小さなコミュニティが復活すべきかもしれない。なぜどのサイトも、IPOのために1億人のユーザーを集めたがるような怪物サイトにならなきゃいけないんだ？そんなの最悪の結果を招くだけだよ。私もここで使っているハンドルネームで、何年もRedditを使い続けていたけど、もうほとんど見捨ててしまった。

1991年からUsenetを使っていたけれど、1995年頃に一般大衆にインターネットが普及し始めてからおかしくなったよ。90年代後半にはスパムがUsenetを埋め尽くして、一般的な議論には使い物にならなくなった。

ウェブサイトの掲示板が主流になったけど、いまだにUsenetのニュースリーダーほど優れているとは思えない。slrnが一番好きだったな。

その後Redditが登場して、人々がそっちに流れたことで多くのオンラインフォーラムが死んでいった。

今朝もRedditで「AIスロップ（ゴミ）」だと4件の投稿を通報したばかりだ。モデレーターには「ボットによる破壊的な利用」としてフラグを立てているから、カテゴリ分けを改善してほしいね。

2件はモデレーターが同意してくれて、5時間後には削除された。でも残りの2件は何も動きがない。

勝てない戦いだよ。

投稿の中には「こんなことを考えてたんだけど…（長々とダラダラ書かれた段落）…みんなはどう思う？」なんて質問で始まるものがある。1分かけて読んで、もう1分かけて流し読みして、自分の人生の2分間を無駄にしたと気づくんだ。それから通報に30秒。

この半年で爆発的に増えたよ。

それにカルマ稼ぎの転載ボットも多い。一部のサブレディットには直近30日や6ヶ月以内の再投稿禁止ルールがあるけど、500アップボートされた投稿が、翌日にボットが同じものを投稿したらまた300アップボートされるのを見ると本当に馬鹿げてると思うよ。あれはボットファームが結託してアップボートしてるだけじゃないかな。

ネットの「スロップ化」はもう何年も前から起きているけれど、正直なところ根本的な解決策が何なのか分からない。本人確認プロセスを経るなんて大多数は嫌がるし、参加に料金を払うのも、招待制にして思想の多様性が失われるのも避けたいだろうしね。

とはいえ、ボット問題はこれから耐え難いほどひどくなるだろうから、上記のどれかを受け入れるのが「マシな悪」なのかもしれない。

P.S. 著者さん、グッジョブ。この文体、すごく気に入ったよ。

自分でフォロー先を選んだ相手しか表示されない、分散型ソーシャルネットワークをいじり回してるところだよ。

Plan9向けに実装したけど、どのOS向けのクライアントでも作れるはず：

https://youtube.com/watch?v=q6qVnlCjcAI

新しいコミュニティの誕生初期にAIを活用するのはどうなんだろうと、よく考えるんだ。新しいコミュニティには「1. 人が集まっていること」「2. コミュニティのトーンが地に足がついていて、毒気がなく、有益であること」という社会的承認が必要だからね。

そうでなければ、初めは小規模なコミュニティになって、アーリーアダプターが過度に情熱的になったり批判的になったりして、議論に加わろうとする人たちを門前払いしてしまう。そうなると、最初にコミュニティを育てるための労力が非常に高くついてしまうんだ。