AIに「意識」なんてない ― テッド・チャンが語るLLMの正体

SF作家テッド・チャンが、AIには意識が宿るという幻想をバッサリと切り捨てた話題の寄稿記事です。LLM（大規模言語モデル）の仕組みを冷静に分析し、なぜそれが「意識」とは決定的に異なるのか、そして私たちがAIに対して抱く過度な期待や誤解について深く考察しています。以下のリンクから記事の全容を確認できます。1. https://web.archive.org/web/20260603173839/https://www.theatlantic.com/philosophy/2026/06/no-artificial-intelligence-is-not-conscious/687378/ 2. https://archive.is/bcpZl

筋は通ってるね。ただ、「意識」という言葉を、斬新な洞察を生み出す能力や真の意味での思考能力などと混同している人が多いのが問題だ。彼らはそれを根拠に「AIは意識がないから、実際には『思考』なんてできず、ただの学習データの焼き直しに過ぎない」と主張している。

自分たちの能力を測定不可能で神秘的なものだと思いたがるのは人間の傲慢さゆえだけど、人間の脳が行っている有用なことなんて、突き詰めればデータ内のパターンを見つけたり、情報の損失を伴うシミュレーションをしたり、抽象化を予測したりしているだけだ。これらは理論上、非意識の機械であっても実行可能なことばかりだよ。

「じゃあどんな状況なら、エンジニアが意識を持ち、意図を持って言語を操るプログラムを作ったと真剣に検討するのか？」という点について、一つのステップを提示してみよう。まず必須なのは、そのプログラムが体（物理的あるいは仮想的）と感覚器官を持っていること。理由は多々あるけど、一番大事なのは体がなければ欲求や感情を持ち得ないという点かな。意識には欲求と感情が必要だと思うからね。次に、トカゲのように環境を生き抜く能力を持つ具現化されたエージェントを見てみたい。さらに、マウスのように新しい状況に対応できるエージェント、オオカミのように複雑な社会性を持つもの、そしてチンパンジーのように道具を作る能力を持つものと続けばいい。その段階で、チンパンジーや犬に教えたように、ボタンボードなど非言語的な手段を使って自分の欲求を伝える方法を学習できるか見てみたいね。

元の記事のいくつかは同意できるけど、この引用部分はちょっとインスピレーションに欠けるし単純すぎると思う。意識を持つ精神が、進化の過程で必ずしもそういった能力を獲得するよう仕向けられるとは限らないからだ。地球上の動物が特定の才能を発達させる必要があったからといって、他の意識を持つ存在も同じである必要はない。なぜコンピュータプログラムがマウスのように食料を探したり、チンパンジーのように道具を作る必要があるんだ？これらは無意味な基準に思えるよ。

この議論になると、みんな話が噛み合ってないよね。「意識」という言葉の明確な定義すらないんじゃないか？

一般的に意識っていうと、自己認識以上のものを指すことが多い。つまり、自己認識＋感覚刺激＋感情＋ある程度の知性という組み合わせだ。

AIの話に戻ると、そもそも自己認識すらしてないんじゃないかな。AIにあるタスクがどれくらいかかるか聞くと、適当にすごく長い時間を提示してくるのを見ればわかる。プロンプトでトリガーされるまで、自分の能力を理解してないんだ。自己認識があるLLMなら、自分がLLMであることを理解し、何ができて何ができないか、何が得意で何が苦手かを把握しているはず。LLMなら1時間で終わるようなリファクタリングを、1週間かかるとは言わないはずだからね。

LLMが本質的に不変（イミュータブル）であるという事実は、意識や自己認識があるという説に対する最大の反論になると思う。

LLMはトークン間の空間的な関係を記述した大量の座標データが入った大きなファイルに過ぎない。プロンプトを与えると、その関係性を使って統計的に可能性の高いトークン列を生成して終わり。経験によって何かが変わるわけでもないし、何かを記憶しているわけでもない。勝手に座り込んで思考するわけでもないんだ。

仮にモデル自体がどれほど複雑だとしても、記憶もできず変化もできないものに「意識」があるという定義は、想像しにくいよ。

私たちと1255のテクノロジーパートナーが同意を求めます…

新記録だな！

あと、archive.isやarchive.todayなどは使わないでほしい。これらは訪問者のブラウザをDDoS攻撃のボットネットとして悪用していることで知られているし、アーカイブされたコンテンツを改ざんしているところも目撃されているからね。

https://en.wikipedia.org/wiki/Wikipedia:Archive.today_guidan...

最近、スタートレックTNGの「人間性の証明（Measure of a Man）」をよく思い出す。私たちは「何が生き物で何がそうでないか」を、雰囲気だけでいとも簡単に決めてしまえる。

今の私の結論は、「わからないし、おそらく一生わからないだろう」ということだ。君たち全員が哲学的なゾンビかもしれないし、私もそうかもしれない！

でも、「いつか」は私たちが慎重にならざるを得ないレベルまで近づくはずだ。

エピソード全編がすごく重要なんだけど、このクリップだけでも見てみてよ： https://youtu.be/EFNbTnFHruI?si=pW9QtxCsqMtHkVYG

私の意図は、LLMとの会話が巧みに偽装された「文の続きを書く」作業の例に過ぎないことを強調することです

より大きな問題はさておき、こういう発言は根本的な誤解を表しているよ。

問題の種類が、問題の複雑さを制限するわけじゃない。解法やパワーも同じだ。

機械がテキストを完成させるために人間を理解することを学ばなければならないなら、それはやるべきことをやっているだけだ。入出力されるデータの形式だけを見て、それを「理解を偽装している」とする理論的・実践的な根拠なんてどこにもない。

問題の型や入出力構造が、内部表現を制限することなんてないんだ。

理解はデータの形式そのものではなく、データ内のパターンから学習される。タスクを完了するために何らかの理解が必要なら、その理解こそが最適化される対象になる。

もし制限があるなら、それは計算リソース、パラメータ数、代表的なデータの欠如といった他の理由によるものだ。そして、SOTA（最先端）モデルを見る限り、それらが限界でないことは明らかだ。モデルの実際の能力がそれを証明している。

私のスタンスはこうだ。

もし汎心論の何らかのバージョンが真実なら、AIが意識を持っている可能性はある。

汎心論が真実かどうかは不明だ。

したがって、AIが意識を持っているかどうかは不明。

だから、「AIには意識がない」なんて自信満々に言い切ることは、根拠が怪しいと言わざるを得ないね。

飛行機と鳥で例えるとわかりやすい。

鳥は生きていて意識があり、羽ばたいて飛ぶ。
飛行機は生きておらず意識もなく、羽ばたかない。でも飛ぶ。

同じように、現在のAIは生きておらず意識もない。でも思考はするんだ。

これまで思考する存在は人間だけだったから、人類は人間としか思考する存在に接した経験がなかった。今犯している大きな間違いは、「思考するなら、人間と同じように生きていて意識があるはずだ」と思い込んでいることだ。現在のAIはどちらでもない。だからこそ、人間とは根本的に質が異なる存在なんだよ。思考はするけれどね。

チューリングテストの背後にある議論を本当に理解している人が誰一人いないというのが、痛いほど明らかになってきているね。