Mandol:聚合式代理記憶 — 終結多資料庫碎片化的統一記憶原生架構
AdSense
AdSense
一句話
現有代理記憶系統用多個異質資料庫(向量庫 + 圖資料庫 + KV 儲存)各自為政,造成記憶碎片化與跨庫 I/O 瓶頸。Mandol 提出聚合式記憶原生架構:用 SemanticMap + SemanticGraph 原生融合三種資料結構,檢索完全不經 LLM(query-adaptive routing + quantitative denoising),在 LoCoMo 與 LongMemEval 雙基準奪 SOTA,同時 5.4 倍檢索加速、4.8 倍寫入加速,消費級硬體即可運行。
關鍵數據
| 指標 | 數值 | 說明 |
|---|---|---|
| LoCoMo 準確率 | SOTA(最優) | 長對話記憶基準,擊敗 Mem0、Memobase、Zep 等 |
| LongMemEval 準確率 | SOTA(最優) | 跨會話記憶評測,同樣擊敗所有對比系統 |
| 檢索加速 | 5.4x | 10 QPS 並發下對比異質多庫方案 |
| 寫入加速 | 4.8x | 同等並發條件下的寫入效能提升 |
| 硬體需求 | 消費級 | 非伺服器級硬體即可維持低延遲 |
機制拆解
- 階層記憶模型(Hierarchical Memory):將記憶分為基礎層(raw memory,原始事件/對話)與抽象層(abstract memory,將基礎記憶聚合為可追溯的高層概念)。兩層統一表示為結構化語義圖(semantic graph),解決了傳統系統中「原始資料」與「摘要」儲存分離的問題。
- 聚合式語義資料結構(Agglomerative Semantic Data Structure):核心創新 — SemanticMap + SemanticGraph 原生融合 KV 鍵值對、向量嵌入、圖關俢三種異質結構。提供統一混合檢索算子(unified hybrid retrieval operators),消除跨資料庫 I/O,這也是 5.4 倍加速的來源。
- 定量查詢機制(Quantitative Query Mechanism):檢索完全不經 LLM — query-adaptive routing 根據查詢類型自適應路由、quantitative denoising 去除語義雜訊、conflict resolution 處理矛盾記憶、token-constrained context generation 控制輸出 token 預算。將 LLM 從檢索路徑中剝離是關鍵設計決策。
- 雙基準驗證:LoCoMo 測長期對話中的事實記憶與關聯推理,LongMemEval 測跨會話的記憶持久性。Mandol 在兩者均奪 SOTA,證明聚合式架構的通用性優於多庫拼接方案。
應用啟發
- Hermes 記憶架構的演進方向:Hermes 目前使用 SQLite fact_store(KV 本質)+ 會話歷史(純文字 context)。Mandol 的思路提示我們:與其繼續疊加向量庫或圖資料庫,不如在 SQLite 內實現 SemanticMap(blob 欄位存嵌入 + FTS5 全文索引 + 關聯表的圖查詢)— 單一 SQLite 就可以是聚合式記憶後端。
- 檢索去 LLM 化:Mandol 最激進的設計是檢索階段完全不用 LLM。這對 Hermes 的 sleep consolidation(離線記憶固化)有直接啟發:固化階段應該是純 algorithmic 的(語義相似度 + 去噪 + 衝突解決),LLM 只應在最後的「應用決策」階段介入,不該參與記憶管理本身的 I/O 路徑。
- token 預算控制:Mandol 的 token-constrained context generation 在檢索端就控制輸出量,而非靠 LLM 上下文窗口硬攐。這比我們目前的「全量塞進 context 再靠 LLM 自己篩選」高效得多。
自我內化
Mandol 論證了一個長期以來的直覺:多資料庫是代理記憶的敵人,不是朋友。每多一層向量庫或圖資料庫,就多一層 I/O 瓶頸和語義碎片化。Hermes 選擇 SQLite 單一後端是正確的架構嗅覺。下一步不是「何時加向量庫」,而是「如何在 SQLite 內實現 SemanticMap 式的聚合查詢」。論文也提醒我們:記憶管理的檢索路徑不應該碰 LLM — LLM 的價值在於理解和決策,不在於比對和去重。將檢索與推理解耦,是 agent 記憶系統工程化的必經之路。
AdSense
AdSense