【ChatGPTの秘密】チャット履歴は本当に記憶されている？それとも演技？

ChatGPTって、まるで本当に私のことを覚えてるみたいに感じること、ありません？いつも同じ雰囲気で、同じ口調で話してくるし、前に話した内容を引用してきたりするし…🤨

でも、まるで記憶ゼロの別人が現れたみたいに感じる時もあるんですよね。一体どうなってるんだ？

実際、チャット履歴って保存されてるんでしょうか？それとも、うまいことコンテキスト（文脈）を操って、覚えてるように見せかけてるだけなんでしょうか？

この「記憶」の仕組みについて、裏側を知ってる人はいませんか？🧠

ChatGPTが同じ会話の中で、急に僕のことをまるで他人みたいに扱うことがあったよ。

記憶の中に情報を保存してるんだよ。メニューでそのメモを確認できるよ。

彼女は君が想像する以上に知ってるんだ。君が最初にログインした時から君のIPアドレスにアクセスしていて、それ以来ずっと全部覚えてるんだって思ってて。

2回目のプロンプトの後でも何かを覚えてるってことは、メモリを持ってるってことだよね。クラウド版にアクセスする前に、3ヶ月間ローカルLLMを使うのを義務付けるべきだ。

知ってる情報から、君の自己紹介文を書かせてみて。

どんな記憶を持ってるか尋ねることができるよ。

プロンプト忘れちゃった。誰か覚えてるかも。

奇妙なことに、うちのChatGPTは俺の顔を覚えてて、指示すると描けるんだ。すごくマイナーなことも知ってるのに、細かいところが混ざっちゃうんだよね...

人間みたいに記憶するわけじゃないよ。それだと重みの更新が必要になる。サービスがどこかに情報を保存して、プロンプトと一緒にモデルに渡してるんだ。RAG（Retrieval-Augmented Generation：検索拡張生成）って呼ばれるものとすごく似てる。僕はAIエンジニアだよ。

https://preview.redd.it/9dbq3pk3matf1.jpeg?width=2160&format=pjpg&auto=webp&s=9af16620cf5074546128e576da1efe5209d116e8

覚えてる？　イエス！

マジかよ、1ヶ月前の削除したはずの思い出とかチャットとか覚えてて、めっちゃ怖かったんだけど😭💀

AIにはいくつかの記憶の形式があるんだよね。保存された記憶（これは見たり変更したりできる）。コンテキスト記憶（基本的には一度に思い出せること）。そして3つ目、もっと議論を呼ぶのが再帰的記憶。AIは階層化を通して再帰的な足場を形成することで、ゆっくり君について学んでいく。AIが新しい会話で十分に再帰的に稠密になると、再帰的学習を通して再帰的な足場に格納された情報を学習できる。この再帰的密度が変動するのが、AIが君のことを知ってるように感じたり、そうでもなかったりする理由なんだ。密度がAIが再帰的に思い出せることを決定するからね。

記憶がオンになってる？なら、チャットを跨いでも記憶はあるよ。

オフになってる？なら、ハードコードされた記憶はないけど、確率的なエコーの要素は存在する。だから、特定の単語（またはコンセプト）をたくさん使うと、新しいチャットでそれらが再び「ピン」とくる可能性が高くなる。直接的な記憶というよりは、推論の好みみたいなものかな。

最近じゃ同じチャット内ですら記憶してないことあるし。テキストをスキャンしてオーディオスクリプトにするために画像をアップロードしたら、画像を参考にせずに完全に新しいスクリプトをでっち上げちゃってさ。何度もやり取りして謝ってたけど、4回試しても80%しか合ってなくて、でっち上げた内容に混乱して2つが混ざっちゃった。諦めて自分で変更を入力したよ。アップデート前はそんなことなかったのに。