AIの意識に関する議論、実は根本から間違っているのでは？

AIに意識があるかどうかという議論について、多くの人が見当違いな方向で論じてしまっているようです。関連情報として、AIの知能と意識を混同してはいけないという考察記事を紹介します。詳細は以下のリンクからご確認ください。元記事: https://archive.ph/uLYYU 関連リソース: Don’t mistake chatbot intelligence for consciousness - https://www.economist.com/by-invitation/2026/08/20/dont-mistake-chatbot-intelligence-for-consciousness (アーカイブ: https://archive.ph/IeSZg)

中心となる議論が何なのか、説明が分かりにくくてよく分からないんだけど、「意識」っていうのは、ある特定の対象に対して人間が関心を持つかどうかに基づく、社会的に決定された主観的な形容詞だと言いたいわけ？そんなの道理に合わないでしょ。じゃあ、俺がテディベアをめちゃくちゃ可愛がったら、それは意識を持つってこと？

『リック・アンド・モーティ』のパイロット版を思い出したわ。

「ただのロボットだ、モーティ！」

＊血が噴き出す

「ロボットじゃないよ、リック！」

「いや、つまり官僚だってことさ、モーティ。俺は彼らを尊重しないんだ」

もしAIの意識に関する議論が本末転倒なんだとしたら、AIが意識を持つようになることを心配するんじゃなくて、人間の方が意識を失うことを心配すべきってことにならないか？

この記事を読みながら、散りばめられた哲学的混乱をすべて整理するのは骨が折れるな。

何かが意識を持っている（主観的な経験がある）かどうかは、人間がそれを気に掛けているかどうかとは独立した話だ。また、何かがモラル・ペイシェント（道徳的エージェントから配慮を受けるに値する存在）であるかどうかも、人間の関心や意識とは関係がない。もちろん、意識があれば道徳的な配慮の対象になるというような議論はできるだろうけど、それはあくまで議論であって定義じゃない。

デカルトに関する短い段落には少なくとも3つの誤りがある。（1）コギトの議論は「考えること」についてであってクオリアについてではない。（2）クオリアが主観的だからといって、それが実在しないとか社会的に構築されたものだとは限らない。（3）彼は自己の存在と意識を混同している。

根本的な前提が科学的に怪しいだけでなく（異星人は人間が見つけるまで意識を持てないのか？）、倫理的にもかなり問題がある。つまり、人間が誰も気に留めなければ、知覚能力のある存在を拷問しても道徳的に許されるって言ってるようなもんだからな。

グレッグ・イーガンの『順列都市』から引用しておくよ。

「反対派はこう反論した。ハリケーンをシミュレートしても誰も濡れることはない。核融合炉をシミュレートしてもエネルギーは発生しない。消化や代謝をシミュレートしても栄養は消費されない。つまり、本物の消化なんて起きていないのだ。なら、人間の脳をシミュレートしたとして、なぜ本物の思考が起きると期待できるんだ？」

LLMは人間が妥当だと感じる出力を生成するように訓練されている、ただそれだけだよ。それ以上のことは何もしていない。

LLMに感情があるとか、思考や推論ができるなんて言うのは正気の沙汰じゃない。

私たちが彼らを意識がある存在だと思うのは、私たちが彼らを気に掛けている時であり、その理由こそが関心である。重要なことに、それには私たち自身も含まれる。

なんで？ まあいいや、分かった。誰かが誰かを気に掛けているから、その相手には意識があると思い込んでいる、っていうのは事実かもしれない。
次の文：

言い換えれば、意識とはモデルや信念であって、本質的な特性ではない。

いや、待て、全然論理が繋がってないぞ。誰かに意識があるという「信念」と、その人に「意識がある」ことは別物だ。論理的に導き出せるのは「誰かに意識があるという信念は、あくまで信念に過ぎない」ってことだけだ。おかげで何も学べなかったよ。

以前は、意識こそが道徳的配慮に値する核心だと考えていた。なぜなら生命だけが意識的な行動を示していたからだ。でも今や、意識と見分けのつかない行動を出力できる機械がある。

何かに意識があるかどうかをどう見極めるかを再検討するのは、間違った反応だと思う。むしろ、意識そのものが本当に配慮すべき対象なのかを再検討すべきなんじゃないかな。

新しい評価基準は、単に（生物学的な）生命を維持することかもしれない。あるいは、簡単に複製できない複雑性を維持することかもしれない。そうすれば、私たちは人間や地球、社会は大切にするけど、GPUのVRAMの状態なんて気にしなくて済むだろう。

Blaiseはエンジニア兼哲学者になろうと必死みたいだけど、ここで展開している議論はどれも役に立たないな。なんで彼がここでこれほど注目されているのかすごく謎だし、彼が誰とも対話しようとしていないのは明らかだ。

AIの意識に関する議論が本末転倒な理由はこれだ。正しい手順は、まず議論している言葉の定義を決めてから話を進めること。これと逆のことをしているのが今の状況で、みんながいつか定義が決まることを期待しながら、言葉の周りをぐるぐる回っているだけだ。