Redditに仕込み工作の影？データが暴く「世論操作」のリアル

Redditには本当に組織的な世論操作（アストロターフィング）の問題が存在するのでしょうか？本稿では、公開されているデータセットと分析手法を基に、プラットフォーム上で展開される不自然な動きと、それがコミュニティにどのような影響を与えているのかについて深掘りしていきます。

「REDCmtsはRedditのコメントを1件9.99ドル、100件で699.99ドルで販売しており、いわゆる『実在する、古くからあるアカウント』を使っていると謳い、実際に投稿したブランド言及のギャラリーまで公開している。Soarは、ブランドへの言及を行う前に数週間かけて『アカウントを長期間運用し、手動でウォームアップ』していると主張。Bazzlyは、買い物を検討しているような投稿すべてに対して自動返信を出すサービスを展開している」

Redditが規約でステマを禁止し、こうした企業やその顧客をすべて訴えない理由は何なんだ？

Redditでの製品レビューなんてものは、10年前にあきらめたよ。でも、木工道具やスキンケアといった『どういうタイプの製品を調べるべきか』というガイドライン的な情報源としては、まだ役立つこともある。

製品レビューに関しては、もう何年もGearLab (https://www.techgearlab.com/) を使っていて、かなり信頼できる結果が出てる。ちなみに、あそこには一切関与してないよ。

『ステルスマーケティングの特徴』としてリストアップされている項目は、かなり範囲が狭いと思う。もし自分がスパムシステムやステマ用ソリューションを設計する立場なら、以下の4つの単純な指標なんてすぐに回避するようにエンジニアリングするね。

• ブランド名を出すときに、ほとんど毎回特定のブランド名しか挙げないアカウント。
• 薄っぺらいアカウント：コメント数が少なく、スコアも低く、サブレディット内での実績がないもの。
• アカウント作成から日が浅い、あるいは履歴が隠されている、または削除されているアカウント。
• ストアやアフィリエイトページへのリンクを含むもの。

Linuxみたいなニッチなトピックは、ボットからはある程度安全な気がする。でも、最近人気のサブレディットを覗いてみたら……ひどいものだよ……。

2週間前に作られた「Incendiary-Leg-8592」というアカウントが、これまた数週間前に作られた「Pivotal-Kitchen-0498」というアカウントの投稿に反応しているのを見ると、そこに人間が介在しているとは到底思えないね。

個人的には、これは何も証明していないように見える。ブランドへの忠誠心と有料ステマを同列に扱っているようなものだけど、ネットの趣味コミュニティにいればわかる通り、ただのブランド信者なんて大勢いるからね。それに何より、記事自体が認めているように、結果に統計的な有意性が全くない。つまり、見つけ出したとされる効果を証明できていないんだ。

Redditには有料のプロダクトプレイスメントや政治的な工作コメントが山ほどあると確信しているからこそ、この（LLM生成の）記事がそれを検出できていないのは逆にすごい。単に設計が悪いだけじゃないかな。

もしトークンにお金を使えるなら、もっと単純な実験ができるはずだよ。こうした業者にお金を払って、でっち上げの製品を売り込ませて、彼らがどう動くか見てみればいい。

興味深いけど、ソースコードのGitHubリポジトリが削除されているか、最初から存在しなかったのかわからないのは、ちょっとモヤモヤするな。

theoryofredditのサブレディットには、特定の製品をやたらと過剰に推奨するアカウント群が明らかに存在する、という事例がいくつか投稿されている。関与していたユーザーアカウントは、その後すぐにBANされるか削除されることが多かった。調査してみると、これらは本当に露骨で、非常に具体的な用語を使って極めてニッチな製品を宣伝しているケースが多かったね。

これは一種の「カツラを見破る誤謬（toupee fallacy）」につながっていると思う。ひどい例を簡単に見抜けるからといって、より巧妙に隠された例も自分なら見抜けるはずだと思い込んでしまうパターンだ。もし50件しかコメントしていない（しかもすべて一般的すぎる）アカウントが、1ヶ月の間に20回も「ImageGeneratorDeluxeProMax」を推奨していたら、さすがに怪しいと推測できるだろう。でも、長期間運用されていて、大半が一般的な自然な投稿であるアカウントが、500回に1回の割合で特定の製品を推していたら、それを指摘するのは難しい。

結局のところ、アカウントの古さは、大規模に複製するのが最も難しい要素なんだと思う。古いアカウントが売買されているのは知っているけど、必要十分な数を確保するのは根本的に難しい。そうなると、当然ながら2〜3年未満のアカウントを排除せざるを得なくなる。それに、Google経由でRedditを検索する際に、一定年齢以下のカウントを簡単に非表示にする方法もないしね。

ユーザープロフィールを非表示にできるようにしたことで、Redditは悪意あるユーザーの特定を少し難しくしてしまった。今の感覚だと、投稿履歴を隠しているアカウントがかなりの割合を占めている気がする（新規アカウントのデフォルト設定になっている可能性もあるけど、定かではない）。

いや、それはもうボットアカウントの指標にはならないよ。私が調べた多くのアカウントは、地元の町や地域のサブレディット（複数！）で活発に投稿していたり、スポーツ関連のサブレディットで活動していて、異常に高いカルマを稼いでいるものさえある（これは組織的なネットワークがあることを示唆している）。

チューリングテストなんてとうの昔に終わっているんだから、数セント払ってコメントを生成させ、まともな投稿履歴を作り上げることにリソースを割いていないなんて考える理由はないよ。

「コーパスと、回答を変えてしまったリフレッシュ」……Opus 5の出番だね。

答えが「イエス」だと知るには、ただRedditを使ってみるだけで十分なんじゃないの？