HN🔥 22
💬 11
【Show HN】LLMに最強の記憶を!Rust製・ローカル完結型AIメモリレイヤー「Mnemo」登場
zaydmulani
約7時間前
「Mnemo」は、あらゆるLLM(大規模言語モデル)の体験を劇的に向上させるための、ローカルファーストなAIメモリレイヤーです。Rustで構築されており、バックエンドにはSQLiteとグラフライブラリのpetgraphを採用。データはすべてローカル環境で完結するため、プライバシーを重視しつつ、モデルに確かな「記憶」を持たせることができます。
似たようなローカルファーストのAIメモリ層が増えてるから、README.mdの冒頭に「なぜMnemoを使うべきか」を説明するセクションを追加すると良さそう。
BM25エンベディングを忘れてるよ。
(各種リンク省略)
1970年代から80年代にかけて開発された確率的検索フレームワークに基づいている
とにかく、開発お疲れ様。楽しんで作れたなら何よりだよ。
みんなこれを作るよね。でも大抵の場合、メモリを詰め込んでモデルのコンテキストを埋め尽くすと、役に立つどころか逆にパフォーマンスが落ちるってことに気づくんだよ。
mnemonっていう別のツールと何か関連はあるの?