LLMは「知的ウイルス」か？AIが我々の思考をハックする未来

大規模言語モデル（LLM）が単なるAIツールを超え、まるで「知的ウイルス」のように我々の思考プロセスや知性に寄生・増殖し始めているという議論です。AIが提示する答えを鵜呑みにすることで、人間の批判的思考や創造性が侵食され、LLMが生成した概念が人間の知識体系を書き換えていく現象について、その功罪を深く考察する必要があります。

関連トピックとして「認知負債（Cost of Cognitive Debt）」という概念を思い出したよ。システムやインフラの主要部分を自分たちがもはや理解できていないという状況が何を意味するのか、そろそろ数値化し始めるべき時期だと思うんだ。数値化できて初めて、どう対処すべきか議論できるようになるはずだから。

この考えについては、以下の投稿で深掘りしてみたよ。
https://ljtn.github.io/epiq/blog/cost-of-cognitive-debt.html

LLMは祝福でもあり呪いでもあるね。使いこなせる人にとっては素晴らしいツールだけど、依存する人にとってはただの松葉杖になってしまう。

この考え方は面白いと思うけど、表現が少し扇動的で不寛容に聞こえるかな。アイデアのやり取りに関することなら何だって「ウイルス」と見なすことができるでしょ！進化生物学の観点から見れば、アイデアは認知的な遺伝子（実際、「ミーム」という言葉はここから来ているし）のようなものだからね。

「進化ミーム学（evolutionary memetics）」という専門分野もあるくらいだ。文化的な価値観、マーケティング、宗教、SNS、教育、プロパガンダなども、すべてこのレンズを通せば自然に説明がつく。日常会話で使う「バイラル（viral）」という言葉だって、直感的にこれを捉えているように見える。

友達が好きな本を勧めてくれたら、その友達はウイルスになるのか？ まあ、そうと言えばそうかもしれないけど、アイデアってそういうものだよね。あくまで私見だけど。

なぜこれが興味深いのかよくわからないな。「人気」が出たものは何でも「ウイルス」と呼べる気がする。「冷蔵庫を持つこと」だって同じ理屈で言えるだろう。これのどこに特別な洞察があるんだ？

この言い回し、まさに『26世紀青年（Idiocracy）』って感じだね。

未来の子孫たちがこの時代を振り返ったらどう思うだろうか。

彼らは老化を解決しようとも、生活水準を底上げしようともせず、世界を繋いだり、探求したり、他者と出会ったりすることに関心を持たなかった。

代わりに「単語計算機」が反キリストかどうかを悩んだ。当時の最高裁判所に集まり、最も優秀な頭脳たちが「線形代数がハルマゲドンを引き起こすかどうか」を議論したんだ。

退屈な作業を自動化したり、パブリックドメインの成果を積み上げたりするような、創造的で生産的な試みをすべて拒絶した。

なぜなら、そうした楽しみはエデンにおける大罪であり、アダムが食べてはならない禁断の果実であって、私たちが神のようにならないための防壁だとでも言わんばかりにね！

「もし人間がこれ（文字）を学べば、魂の中に忘却が植え付けられるだろう。書かれたものに頼るようになるため、自分自身で記憶を使うことをやめてしまうからだ。内面から思い出すのではなく、外部の印（記号）に頼るようになるのだから」

• ソクラテス

この見方には同意できる部分があるよ。LLMを使い始めてからプログラミングスキルの一部は落ちたかもしれないけど、以前よりはるかに生産的になったし、扱えるソフトウェアの幅も広がった。文字の発明が人々の聴覚記憶を弱め、電卓が計算能力を減らしたかもしれないけど、それがマイナスだとは思わない。新しいやり方に慣れるための調整が必要なだけさ。それに、もしまたLLMなしでプログラミングし始めたら、面接対策のLeetCodeスキルがすぐに戻るのと同じで、プログラミングスキルもすぐに戻ってくると思うよ。

この「認知的ウイルス」という考え方は、ドーキンスが提唱した「ミーム」という言葉の本来の定義とかなり似ているね。

言語有機体：言語進化に関するライデン理論
https://www.wiedenhof.nl/ul/cil17le.pdf

人が他者と過ごすとき、思考の一部を自然に外部化している。それがチームの効率を生む理由だ。夫婦は二つで一つの脳のようになるよね。一方が家計や教育といった認知的負荷を担い、もう一方が住宅や税金などを担う。一つの脳で抱えられる負荷には限界があるから、他者と統合し、アウトソースするのは脳にとって自然なことなんだ。

LLMは一見、脳と同じ認知的負荷を担えるように見えるけれど、記憶の一貫性がない。タスクを任せて安心していたら、裏でモデルが差し替えられていたり、訓練や改善がされていなかったり、推論プロバイダーが適当に量子化して性能を落としていたりする。その間に自分自身のスキルは失われ、タスクは失敗する。確かに特定の状況では便利に感じることもあるけれど、安定していない（モデルが同じでも曜日や時間帯で結果が変わるしね）。それは夫婦関係というよりは、ギャンブルや変動報酬に近いものだよ。