HN8826
「潜在空間」という名の新しい表現メディア：AI時代の創作論
Latent Space as a New Medium
thm・5日前
議論
11件最近、クリエイティブ業界で「潜在空間（Latent Space）」を単なるAIの計算結果ではなく、新しい表現メディア（キャンバス）として捉えようとする動きが活発です。AIモデルが学習データから獲得したこの高次元の空間を、エンジニアやアーティストがどのように探索・操作し、独自の美学を抽出しているのか。その可能性と未来について語り合いましょう。
それは誤った特徴づけだよ。潜在空間（Latent space）は単なる（多次元的に）ソートされた集合体であって、全体の一部に過ぎない。構造の大部分はアンエンベディング層（unembedding layer）が保持している。生成AIモデルは非常に特殊な順序付けであり、LLMはその中のごく特殊なサブセットに過ぎない。この概念を使っているのはLLMだけじゃないんだ。
著者が何を言いたいのかはわかるし、方向性は間違っていないと思う。埋め込み空間には興味深い性質がある。ニューラルネットワークの基盤として使うと、一種の連続的な計算として扱えるんだ。つまり、2つの関数があれば、そのちょうど中間にある関数を簡単に導き出せる。理論上は、任意のプログラムに対して無限に繰り返せる（もちろん物理的にアクセス可能な範囲は有限だけど）。これは数ある操作の一つに過ぎない。関数は無限に歪ませることができる。KritaやPhotoshopのベジェ曲線のパスツールをイメージしてみて。関数に対しても同じように、ポイントを追加して好きなようにねじることができるんだ。
あと、LLMだけに注目するのは間違いだ。これはもっともっと広いトピックだよ。興味深いことのほとんどは、言語モデルとは何の関係もない。LLMが問題解決を力技でこなすことに業界全体が興奮しているのはわかるけど、哲学や理論といった話をしたいなら、機械翻訳の聖杯みたいな表面的な誤用を乗り越えないといけない。それはコンピューターの可能性について語り合いたいのに、ブラウザのことばかり話して、それを「コンピューター」と同一視しているようなものだよ。
この記事を読んで、『エブリシング・エブリウェア・オール・アット・ワンス』をもう一回観たくなった。
今月読んだ中で一番重要な記事かもしれない。鍵となる概念がとても有益だ。
ケビンさんへ。AIモデルは人類のすべての知識を持っているわけではありませんよ。例えば、最低限のK-12（幼稚園年長から高校3年生まで）のカリキュラムすら完全には網羅していないんですから。
将来的には、モデルにガードレールを設けるために、数学的な意味でのトークンフローのパイプを構築することになるだろうね。一種の数理工学みたいな感じさ。
トークンではなく、潜在表現（latents）での学習に関連する数学についての資料だよ：
言い換えれば、正しさ、真実、一貫性、完全性、理解度などはすべて、本質的にこの空間にマッピングされたパターンである。
注意点として、潜在空間における「真実」とはコーパス内のコンセンサスの反映に過ぎず、潜在空間の答えと現実にあるものを比較して初めて真実が見えてくるんだよ。
それに、真実や事実が「方向」に過ぎないという考え方はどうにも好きになれない。モデルに頼れば頼るほど、僕らは現実との繋がりを失い、あちこちに引きずり回されることになる。未来は単なるAIによる精神病のようで、出口がないように感じるよ。完全なるAGIの勝利って、こういうことなのかな？
この記事の冒頭には、かなり極端な主張がいくつも含まれているね。
（強調は引用者）
大規模言語モデル（LLM）は、人類の全知識を詰め込んだ小さなzipファイルのようなものだ。
奇妙だが現実として、結果的に生成された小さなファイルには、インターネットと私たちの図書館にあるすべての情報が含まれている。
同様に、LLMはほぼすべての人の顔を認識し、考えうるあらゆる人間の顔を生成できる。
すべての著作？ 人類の全知識？ どんな人でも？？
著者が著作の例として挙げているシェイクスピアは、学習データセットの中で最も過剰に代表されている作家の一人だろう。だから、LLMが高い精度で彼の作品を再現できるのは当たり前だ。それが、文字通り人類のすべての著作や知識に当てはまるわけじゃない。
私たちは、知っていることすべてと想像できることすべてを統合するシステムをこれまで持ったことがない。
いや、今もないよ。
最初は著者がわざと大げさに書いているだけかと思ったけど、記事の後半はさらにひどい。最後の段落から抜粋すると：
私たちはすぐにこのオラクル（神託）に依存するようになり、それなしでどうやって生きていたのか不思議に思うようになるだろう。
違う！AIは神託ではない！この技術をそのようなものとして捉えるのは、正直言って非常に危険な考え方だ。
これはOpenAIやAnthropicが何年もかけて利用してきた根拠のない誇大広告の一種であり、本当にやめてほしいものだよ。
モデルの実際のメカニズムとしては完璧とは言えないにしても、視覚化という観点から見れば面白い記事だと思った。接続の規模を説明するのに役立っている。
言葉の「裏側」にあらかじめ形成された思考など存在せず、それが言語に翻訳されるわけではない。言葉そのものが思考なのだ。
これについては「J-space」に関する最近の論文[0]が反論しているね。モデルはテキストとして出力しなくても、物事を「考える」ことができるんだ。
この記事は出だしは十分によく、私自身も考えていたこと（LLMの多次元空間を探索すること）をカバーしている。だけど、そこから先は古き良き「人間による幻覚（現実から切り離されたバズワード）」に逸脱している気がするね。
お気に入りの番組『Connections』にも言及しているけど、解釈が間違っている。あれは難解だったりありそうもないアイデアを見せる番組ではなく、正当に評価されていない歴史的な発展の軌跡に光を当てる番組だったんだ。私が覚えている（そしてYouTubeで何度も繰り返されている）のは、旋盤がいかにして産業革命を加速させたかという話だ。最初は未熟な旋盤が、より精密な後継機を作る手助けをしたというやつだよ。
著者がLLMの構成が提供する新しい可能性を追求している点については評価したい。しかし、後半は完全に非現実的な領域に突入している。著者は「潜在空間」という言葉を本来の意味から切り離して、ただの妄想を語るために使っているだけだ。
「レトロ潜在表現」：歴史家以外、誰も不気味の谷をわざわざ見に行きたがらないだろう。
「あらゆる可能な潜在空間をシミュレートする」：それは単なるN次元のランダム行列であり、Nを無限に近づければ計算不可能だ。「あらゆる可能な潜在空間の空間を計算で掃引し、ある意味で潜在空間の本質をマッピングする」：同じ理由で無理だ。「潜在空間」が意味を持つのは、それが現実に基づいているからに過ぎない。ランダムな「潜在空間」を作り出して、それが何の現実に相当するのかを問いかけるなんて無意味だよ。
「潜在空間を移動することで様々な命題のシミュレーションを作成する」：それについてはすでに『マトリックス』というドキュメンタリー……いや映画があったね。
「潜在空間にはすべての並行世界が含まれている」：もし適切に構成されクエリが投げられたとしても、そこに含まれるのは現実だけだろう。並行世界があるなら、それはまた別の「潜在空間（つまり巨大な行列）」と異なる値を持つはずだ。
「個人の潜在空間」というアイデアは、ついに脳をシリコンに「ダウンロード」する方法があるかもしれないと思わせる。でも、それには生まれた時から24時間365日Googleグラスを動かして学習させる必要があり、そんなことをしたい奴はいない。それにセキュリティの悪夢だ。あなたが完全に制御するエアギャップ環境でアクセスを厳重に管理できない限り、複製されて、仮想的なコピーが銀行口座を空にされたり、恐喝されたり、知的財産を盗まれたりする可能性がある。