AIへの思考の依存、進みすぎていないか？エンジニアが考えるべき「思考力」の現在地

最近、私たちはAIに頼りすぎて思考を外部化しすぎてはいないだろうか？複雑な設計やコードの生成をAIに丸投げすることで、本来培うべき「エンジニアとしての直感」や「深い理解」が失われている可能性について、皆さんの意見を聞かせてほしい。

「今は自分をマネージャーとして捉えるべきだ」というのがよく聞かれる決まり文句だけど、自分は実際その逆のアプローチをとっているし、教育する相手にも同じことを伝えてるよ。

AI時代の今、技術への理解を深めることは、自分をより有用な存在にするためにも、AIをより効果的に使いこなすためにも理にかなっていると思うからね。

興味のあるテーマの教科書を手に取るよういつも若手に言ってるし、自分もそうしているよ。深い理解を持つことは、近い将来、間違いなく貴重な価値になるはずだ。

電卓を使う時、答えがいくらになるか頭の中で概算して、近い数字になるようにしている。若い頃、単純な計算に電卓ばかり頼るせいでみんなの能力が低下していると熱く語る教師がいたからね。LLMに対しても同じように、自分がどう回答するかをまず考えてから、どれくらい近いか比較するようにしているよ。唯一違うのは、AIの回答を鵜呑みにせず、文脈の中にあるニュアンスを汲み取ること。ただ、これが諸刃の剣でね。AIが明らかに的外れな解決策を出したり、不要な部分を過剰に説明したりすると、余計にイライラしてしまう。まるでテストで空欄を作りたくないがために、もっともらしい答えを詰め込んで点数を稼ごうとする学生みたいなんだ。

私たちは何を自動化しようとしているのか？人間の労働か、それとも人間の主体性か？作業か、それとも思考そのものか？

「作業を自動化している」と自分に言い聞かせるのは簡単だけど、実際には思考まで自動化してしまっているケースが増えていると思う。思考の部分はモデルがデフォルトで提供してくれるか、たった一つのプロンプトで出てくるからね。構文的には（スタイルは別として）完璧な考えが出てくるから、それを無視してゼロから考えるのは難しい。

解決策はあるのか？モデルは思考プロセスをショートカットさせるのが得意だから、唯一の方法はタスクやアイデアを切り離して考えることかもしれない。でも、迅速かつ大量の成果を求められるプレッシャーの中で、どの知的作業を切り離すか決めるのはとてつもなく難しいことだよ。

この問いは、そもそも「私たちが思考している」という前提に基づいているけど、実際はほとんどの人が他者の思考との遭遇で生まれたパターンに従って動いているだけじゃないか。私たちはそれらを採用したり、矛盾が生じれば無理やり論理的だと思い込もうとする。実際に「思考」する人はごくわずか。それは骨の折れる作業で時間もかかるからね。私たちはその時間すら持っていないし、自分で設定した低い目標を達成するには学んだパターンで十分だから、わざわざ苦労しようという意欲もない。

つまり、現代のAIは現代人の思考停止を助長する存在にすぎない。ただ、より速く、より膨大なエネルギーを消費してそれを行っているだけだよ。

この捉え方が正しいのかはわからない。「過剰」というのは主観的だし、ヘビーなAIユーザーは「可能性を解放しているだけだ」「電卓が人間をバカにしたわけじゃない」と主張するだろう。

でも電卓の例えに乗っかるなら、計算をアウトソースしても「あなた」であることに変わりはない。でも、LLMを使って思考のほとんどを任せてしまったら、何が残る？子育てや人間関係の管理、製品設計までLLMにやらせる人がいるけど、世界に対するあなたの独自の貢献って何？書いたプロンプトだけ？あなたはトークン生成マシンの前に立ってレバーを引いて、時々出てくる贈り物を受け取っているだけじゃないか。それがあなたの武器であり、人生の目的と言えるのか？

AIユーザーの多くは新しいことを学ぶために使っていると言うけど、何の効果がある？学んだ物理やコンピュータサイエンスを自分で応用するのか、それともまたLLMに尋ねるだけなのか？

自分としては単純な話だと思ってる。自分は人間で、LLMは人間じゃない。人間が書いた小説には、苦労して得た経験が根底にあるからこそ価値がある。自分はそういうものを応援したいし、古風なやり方で小説を書ける人間でありたい。自分は運動神経が悪いから、思考こそが自分に残された唯一の武器なんだ。

自分はGenAIを一切使っていない。

ここや他の技術・プログラミングフォーラムで見かけるコメントを見る限り、今の状況はひどい方向に向かっていると感じるよ。

いつかこのブームが収まるという希望は持っているけど、時間が経てば経つほど、その代償は大きくなると思う。

コンサルタントの仕事をしていて、AIに思考を丸投げした人たちの後始末に追われることが増えている。

信じられないほど愚かな事例をたくさん見かけるよ。研究の問いとは無関係なデータ重複排除のために、何ヶ月もClaudeで正規表現をいじり回している研究者とか、ChatGPTで何も考えず「YOLO」で決めた研究手法とかね。

結果は当然めちゃくちゃで、膨大なストレスと時間の無駄を生んでいる。非技術者はLLMを神託のように扱い、示唆することの影響も考えずに重大な決断を下している。彼らの「機械」がそう言ったから、という理由だけでね。

今の状況は恐ろしいよ。いくつかのプロジェクトで見られる思考力の欠如は悲惨としか言いようがない。AI以前からあったことだけど、今はレベルが違う。誰かが「とりあえずClaudeに聞いてみよう」と安易に決めたせいで、至る所で悪いことが起きているのは間違いないよ。

チームのジュニア開発者がデザインレビューで計算の理由を問われ「わかりません」と答えた時、これは都市伝説じゃなかったんだと確信したよ。なぜなら、その（間違った）計算は完全にAI生成されたもので、彼自身が正誤の判断すらできていなかったからだ。

多くの人はAIを学習のために使っていない。ただ「仕事」を代わりにやらせているだけで、結果すら理解していないんだ。「プロンプトを入力するリソース」以外に何の価値も提供できない人間なんて、一体何の意味があるんだろう。

投稿者がAIにまつわる短編から始めているので、自分もテクノロジーと進歩についての短編を勧めるよ。テッド・チャンの短編集『息吹』に収録されている「事実の真実、感情の真実」だ。

こういう会話をする時、いつもこの話を思い出す。内容を要約するより読んでもらう方がいいから詳しくは書かないけど、技術がいかに文化を変え、それが良いことなのか悪いことなのかを判断するのがいかに難しいかという議論が展開されている。オンラインでも読めるよ。

自分が恐れているのは、思考をAIにアウトソースすることを「強制」される未来だ。発言にはすべてLLMの引用が必要になり、行動はすべてLLMの承認が必要になる。会議で素晴らしいアイデアを思いついても、AIが「それは良いアイデアではない」と判定すれば、追求することもできず、さもなければクビになる。摩擦のない道を選ぼうとすればAIの指示に従うことになり、多くの人は思考を停止して完全に屈服してしまうだろう。（管理職が無理やりAIを強要する企業では、すでにエンジニアたちがそんな感じになっている）

AIは人間に語りかける神のように扱われ、反論も許されず、せいぜいAIの考えを変えようと説得するしかない。これこそが最も恐ろしい精神的抑圧の形だ。そして、そんな未来はもう数年先まで迫っている。