EvolveMem:Self-Evolving Memory Architecture via AutoResearch for LLM Agents

Long-term memory is essential for LLM agents that operate across multiple sessions, yet existing memory systems treat retrieval infrastructure as fixed: stored content evolves while scoring functions, fusion strategies, and answer-generation policies remain frozen at deployment. We argue that truly adaptive memory requires co-evolution at two levels: the stored knowledge and the retrieval mechanism that queries it. We present EvolveMem, a self-evolving memory architecture that exposes its full retrieval configuration as a structured action space optimized by an LLM-powered diagnosis module. In each evolution round, the module reads per-question failure logs, identifies root causes, and proposes targeted configuration adjustments; a guarded meta-analyzer applies them with automatic revert-on-regression and explore-on-stagnation safeguards. This closed-loop self-evolution realizes an AutoResearch process: the system autonomously conducts iterative research cycles on its own architecture, replacing manual configuration tuning. Starting from a minimal baseline, the process converges autonomously, discovering effective retrieval strategies including entirely new configuration dimensions not present in the original action space. On LoCoMo, EvolveMem outperforms the strongest baseline by 25.7% relative and achieves a 78.0% relative improvement over the minimal baseline. On MemBench, EvolveMem exceeds the strongest baseline by 18.9% relative. Evolved configurations transfer across benchmarks with positive rather than catastrophic transfer, indicating that the self-evolution process captures universal retrieval principles rather than benchmark-specific heuristics. Code is available at https://github.com/aiming-lab/SimpleMem.

📋 한 줄 요약

**[LLM 에이전트 · 장기 메모리]** 저장 콘텐츠뿐 아니라 검색 메커니즘 자체를 LLM 진단 모듈로 공진화시키는 자기 진화 메모리 아키텍처 EvolveMem을 제안한다.

🎯 핵심 기여도

기존 메모리 시스템이 저장 내용만 진화시키고 스코어링·퓨전·답변 정책은 고정한다는 한계 지적
검색 구성 전체를 구조화된 액션 공간으로 노출해 LLM 기반 진단 모듈로 최적화하는 EvolveMem 제안
회귀 시 자동 되돌리기와 정체 시 탐색을 적용하는 가드된 메타 분석기로 폐루프 자기 진화 구현
AutoResearch 프로세스가 원래 액션 공간에 없던 새로운 구성 차원까지 자율 발견함을 입증

💡 핵심 아이디어

"진정한 적응형 메모리"는 무엇을 저장할지뿐 아니라 무엇으로 검색할지도 함께 진화해야 한다. EvolveMem은 실패 로그를 LLM 진단으로 읽어 구성 조정을 제안하고 자동 안전장치로 적용한다.

🔬 기술적 접근법

**모델/방법론**: 검색 구성을 구조화된 액션 공간으로 노출하는 자기 진화 메모리 아키텍처
**핵심 기법**: per-question 실패 로그 진단 → 표적 구성 조정 제안 → revert-on-regression / explore-on-stagnation 안전장치 적용

📊 주요 결과

LoCoMo에서 가장 강한 베이스라인 대비 25.7% 상대 향상, 최소 베이스라인 대비 78.0% 상대 향상
MemBench에서 가장 강한 베이스라인 대비 18.9% 상대 향상
진화된 구성이 벤치마크 간 양의 전이를 보여 보편 검색 원리를 포착함을 시사

💭 의의 및 한계

**의의**: 메모리 시스템 설계 자체를 자동화하는 AutoResearch 패러다임을 실증한다. **한계**: LLM 진단 모듈에 의존하므로 진단 능력의 품질과 비용이 전체 성능에 영향을 미친다.

🚀 실용적 활용

장기 세션 챗봇·개인 비서의 메모리 운영 자동 튜닝
구성 공간이 큰 RAG 파이프라인의 자동 최적화
벤치마크 간 메모리 전략 전이를 통한 콜드 스타트 완화