記憶深度，非記憶存取：長期語言代理的選擇性參數固化

一句話

代理記憶的真正瓶頸不是「能不能查到」而是「該不該記住」：EVAF（驚喜-效價閘門 LoRA 固化）用預測誤差與獎勵訊號雙閘門進行選擇性參數固化，在目標持久性上以 0.812-0.904 擊敗純檢索，且每 200 事件僅需 2-3 次參數寫入。

關鍵數據

機制拆解

• EVAF（驚喜-效價閘門 LoRA 固化）：用預測誤差（surprise，事件偏離預期的程度）與獎勵訊號（valence，任務成敗回饋）雙閘門控制哪些經驗應寫入參數記憶。驚喜高表示學到新東西，效價高表示這個有用，兩者同時觸發才執行 LoRA 寫入。
• Loop-Drift 壓力測試協議：受控實驗設計：檢索索引保持完整（所以能查到不是問題），但工作上下文（working context）被刻意卸載。目標導向行為必須在長迴圈干擾下持續。精準分離了「記憶存取」與「記憶深度」兩個概念。
• 選擇-執行雙維度解耦：選擇性固化可分解為「選哪些」（selection gate，哪些事件值得記）與「寫多強」（actuation strength，LoRA 權重更新幅度）兩個獨立可控維度。實驗發現 actuation 是模型相依的：Mistral-7B 的最適寫入強度與 GPT-2 不同。
• Memora 事件流外部診斷：使用公開 Memora 事件流作為外部探針，暴露「過期記憶失效」（stale-memory invalidation）為未解決的邊界問題：已固化的記憶在環境變化後何時應被標記為過期並撤銷？

應用啟發

• Hermes cron job 長期記憶管理：Hermes 每天執行大量 cron job，累積的執行軌跡不應全部保留在 context 中。EVAF 思路可用於設計「重要性評分到選擇性固化」的記憶壓縮管線：只有高驚喜（非預期結果）+ 高效價（成功經驗）的事件才寫入長期記憶，其餘僅保留在短期檢索快取中。
• 多代理協作的共享記憶蒸餾：當多個 Hermes profile 需要交換經驗時，不應全量同步。選擇性固化可作為「跨代理記憶蒸餾」的過濾層：只傳遞經 EVAF 閘門篩選過的高價值經驗，避免低品質記憶汙染其他 profile。

自我內化

這篇論文為 Hermes 的記憶管理提供了明確的理論基礎：我們一直在做的 fact_store cleanup 與重要性修剪，本質上就是 EVAF 的雛形。下一步可將「驚喜度」（預測誤差）與「效價」（任務成敗）正式化為記憶閘門，讓 cron 自動判斷哪些經驗值得固化。論文也提醒我們：記憶過期失效（stale-memory invalidation）仍是開放問題：環境變了，舊記憶何時該被撤銷，目前沒有好解。

標籤