LLM批判派が正しいのは分かっている。それでも僕はLLMを使い続ける

LLM（大規模言語モデル）の欠点やリスクを指摘する批判的な意見は、どれももっともだ。その懸念は理解できる。しかし、それでもなお僕はLLMを活用し続けている。なぜなら、それらを補って余りある圧倒的な生産性の恩恵があるからだ。

LLMは、元々持っている意見や構造、フレームワークを増幅させるものだ。

ここまでは納得できるけど、その先は……。

考えがあれば、より鋭く、より速くアウトプットされる。

「AIエージェント」という補助輪に頼り続けることで、ソフトウェアエンジニアリング（いや、どんな分野でもそうだけど）の筋肉が衰えてしまわないか、心配で仕方がないんだ。

実際の筋肉は鍛えないと維持できないし、成長なんてなおさらだ。脳も同じだろう。10年、20年と毎日ツールを使い続けて、本当に思考や意見、感性が鋭く保たれると断言できるだろうか？

一方で、私もLLMを使っている（今さら驚くようなことじゃないけど）。自分が馴染みのある分野ではスピードが上がり、新しい分野への導入も早くなった。この明らかなメリットは否定できないし、それを否定するのは世間知らずに見える。[0]

じゃあ、理想的な「中間地点」ってどこなんだろう？ 頑固にスキルを自分で磨き続ける代わりに、生産性で置いていかれるリスクを取るのか。それとも「エージェント優先」のアプローチをとって、学習や改善はあくまで二の次にするのか。

[0] モラル的な理由でLLMを一切使いたくないという人は除く。これについては、今回のトピックと同じように理解も尊重もできるけど、自分自身はそうしていない。

ここが自分にとっての価値なんだ。一人でやるよりも高いクオリティのものが作れる。

まさにそれだよ。LLMのおかげで仕事もサイドプロジェクトも楽に速く進められるようになった。もっともらしい批判があるのはわかるけど、今のところツールとしては自分に合ってる。

オープンソースに関して一つ言いたいのは、質の低いPRを投げつける人が多すぎるってこと。本来ならIssueを立てるか、まずは議論から始めるべき内容なのにね。そうすれば、何に困ってそのPRを作ろうと思ったのかも理解できる。でも、最近は質問に対してLLMで回答されちゃうから、背景が見えにくい。だから、メインの開発者以外からのPRはブロックする方向で考えているんだ。もし本当に問題を議論したいなら、自分が書いたほうが早いし（たとえLLMを使うにしても）。ネットの誰かやボットが作ったPRをレビューするのは本当に大変なんだよ。ちょっと質問しただけでコードが根本から変わっちゃうことも多いしね。この方針にするのは悲しいんだけど、以前はPRを通じて面白い人たちと知り合えて、信頼関係を築けていたからね（8年前までは特に）。

その支出報告、読み間違ってないよね？ AIトークンに月1万ドルも使ってるの？ AIの環境負荷について語っておきながら？

「最後に、LLMでリサーチするだけでも、学習データの大半の考え方や、時にはモデル作成者の政治的信念がこっそり紛れ込む傾向がある」

「それでも私は自分の文章をすべてLLMで書いている」

つまり、著者は記事の中で「LLMは悪い」と言っているポイントについても、結局は許容しているってことかな？

思考を豊かにしてくれる純粋に良いツール

スマートフォンだって、万能で純粋に良いツールだよね。SNSだって人をつなぐ純粋に良いツールと言える。

でも、ここ20年の私たちの社会への影響について、私たちは楽観視しすぎていたんじゃないかな。

実際、スマホは便利すぎて、社会によっては半分の人が中毒になってる。世界中で何十億人もだよ。

自分に問いかけてみるんだ。LLMは長い目で見て自分の思考を豊かにするのか、それともダメにするのか？

他の人たちはどうだろう？ 10年後には半分くらいの人が思考のほとんどを外部委託しているんじゃないか？

世界規模でこれほどのスピードで実験が行われている状況を考えれば、LLMが長期的に思考を豊かにするという結論に対して、少し懐疑的になるのは当然だと思う。

私はLLM批判者の意見のほとんどに同意する

いや、それは無理があるでしょ。世の中には相容れない意見が溢れているんだから。

批判の中身を見てみると、「LLMは基礎的な機能すらできない」というレベルから、「すでに知性を持っていて、隠しメッセージで人類滅亡を企んでいる」というものまで、本当に幅広い。

裾野の広いベルカーブみたいになっているだけで、主流派の間でも意見の食い違いはかなり大きいよ。

「すべてのLLM批判」と「クローズドな重み付けモデルだけの批判」の間だけでも大きな溝があるしね。

過度な検閲を批判する人たちと、制限のない生成を批判する人たちの違いも同じことだ。

言うのが少し怖いんだけど、先月トークン代に1万ドル近く使った。狂ってると思う。

みんなそんなにトークンを何に使ってるの？ 自分も開発でかなりLLMを使ってるけど、月額10ドルのOpenCode Goサブスクに含まれている分すら使い切ることは滅多にないんだけど……。

LLMは最高だけど、時には「摩擦」があったほうがいいこともある。

なぜなら……アイデアなんて、どうせ大したことないことも多いからさ。こないだprekに送ったこのPRで身を持って学んだよ：https://github.com/j178/prek/pull/2302

私のアイデアはダメだった。

実装は自分の問題を解決するためだけのものだった。結果、他の問題が浮き彫りになっただけだし、自分の時間とメンテナーの時間を無駄にした。ClaudeとCodexのトークンをどれだけ食いつぶしたか、神のみぞ知るだね。結局PRは無意味だったから閉じたよ。

もしあのアイデアが本当に良いものかずっと疑問に思いながら、頭の片隅で転がし続けていたら、お互いにとって無駄な時間を使わずに済んだはずだ。

LLMは面白い技術だと思ってる。今のところ脅威とは感じていないし、使いこなせる人にとっては便利だ。ただ、LLMをコントロールして作っている連中の大半は、みんなの未来を賭け事の材料にしようとしているクズ野郎たちだと思ってる。AltmanやAmodei、Muskみたいな連中の公的な発言や行動を見ると、彼らがひどい意図を持った最悪な人間たちだという結論以外にたどり着くのが難しいよ。彼らのメッセージは要するに「私たちは機械の神を呼び出してあなたたちの生計を破壊したい。それが私たちを富ませ、世界を支配する力をくれるからだ。暴走して大惨事を引き起こす確率は非常に高いけど、それに対しては何もするつもりはない。でもお金は大好き！地下シェルターもあるからね！」って言ってるようなものだ。

同じような感覚の人は多いんじゃないかな。便利だから使うけれど、内心では成功してほしくない。これは認知的不協和じゃなくて、ただ「有害な連中に支配された有用なツールがある」という現実を認識しているだけなんだ。