AI Agent 記憶管理：2026 年 6 月關鍵研究

MemRefine: LLM-Guided Compression for Long-Term Agent Memory

• 問題：Agent 記憶無限制增長，冗餘條目排擠有價值證據，降低檢索品質。資源受限平台尤其致命。
• 方法：形式化為「儲存預算受限的記憶管理」。表面相似度只用作初篩，刪除/合併/保留的最終決定交給 LLM judge 基於事實內容判斷，迭代執行直至達標。
• 結果：多框架、多基準下一致達成目標預算，緊縮預算下顯著優於規則基準。

Are We Ready For An Agent-Native Memory System?

四模組拆解

三大發現

1. 無萬能架構：效能取決於記憶結構與工作瓶頸的對齊程度。對話場景適合全文分頁，問答場景適合圖譜索引，長期任務適合增量維護。
2. 三種檢索模式：壓縮型（單一高相關條目）、階層型（互補證據收集）、扁平稠密（近期上下文仍有效時）。
3. 局部維護優於全域重建：只更新受影響的記憶，成本效益顯著更高。

1. 設定記憶預算，主動修剪

記憶不是愈多愈好。設定硬上限（如 5,000 字元或 100 條），超標時觸發修剪。MemRefine 證明預算受限下的修剪可保持效能不降。

2. 修剪決策交給 LLM，不用表面相似度

Embedding cosine similarity 不能區分「文字相似但事實重複」和「文字不似但事實互補」。讓 LLM 讀內容做判斷。實務上可用相似度初篩 + LLM 終判的兩階段做法。

3. 依任務選架構，不要一套用到底

單輪問答 → 扁平稠密檢索。多輪長期任務 → 階層記憶（session 摘要 + 跨 session 索引）。跨事實推理 → 連結式記憶（知識圖譜）。

4. 局部更新優於全域重建

新記憶只更新相關的舊記憶（同主題、同時段），不重建整個索引。長期運行的 agent 必須有增量更新機制。

5. 記憶系統需要自己的品質指標

不要只拿任務分數（F1/BLEU）看 agent 好壞。記憶層需要獨立監控：檢索命中率、記憶密度、更新延遲、儲存增長率。

6. 用時間衰減 + 重要性加權做檢索

每條記憶附 timestamp + importance score。檢索分數 = 語義相似度 × 時間衰減 × 重要性加權。單純語義搜索在跨 session 場景不可靠。