Rethinking Memory as Continuously Evolving Connectivity

Existing memory-augmented LLM agents often treat memory as a static repository with pre-defined representations and fixed retrieval pipelines, which is brittle in dynamic agentic environments where feedback, task variation, and heterogeneous signals continuously reshape what should be remembered and how it should be connected. To address this, we propose FluxMem, a connectivity-evolving memory framework that models memory as a heterogeneous graph and progressively refines its topology through three stages: initial connection formation, feedback-driven refinement, and long-term consolidation. During execution, FluxMem repairs missing links, prunes interference, aligns abstraction granularity, and distills recurrent successful trajectories into reusable procedural circuits, guided by one metric for memory generalizability and evolutionary maturity. Across three fundamentally distinct benchmarks including LoCoMo, Mind2Web, and GAIA, FluxMem achieves consistent state-of-the-art performance, demonstrating strong adaptation and generalization in complex agentic environments. The code will be open-sourced in https://github.com/zjunlp/LightMem.

📋 한 줄 요약

**[LLM 에이전트 / 메모리 그래프]** FluxMem이 정적 메모리 한계를 넘어 heterogeneous graph로 메모리를 모델링하고 초기 연결 형성→피드백 정제→장기 통합 3단계로 topology를 진화, LoCoMo·Mind2Web·GAIA SOTA.

🎯 핵심 기여도

기존 memory-augmented LLM 에이전트가 메모리를 사전 정의 표현·고정 검색 파이프라인의 static repository로 다뤄 dynamic agentic 환경(피드백·task 변화·heterogeneous signal이 기억 대상·연결 방식을 지속 재형성)에서 brittle하다는 문제 진단.
FluxMem 제안 — connectivity-evolving 메모리 프레임워크로 메모리를 heterogeneous graph로 모델링, 3 단계로 topology를 progressively 정제.
3 단계 — initial connection formation, feedback-driven refinement, long-term consolidation.
실행 중 FluxMem이 missing link 복구·interference 가지치기·abstraction granularity 정렬·반복 성공 trajectory를 재사용 가능 procedural circuit으로 distill, memory generalizability·진화 성숙도 단일 metric으로 가이드.

💡 핵심 아이디어

LLM 에이전트의 메모리는 단순 저장소가 아니라 환경 피드백과 task 변화에 따라 연결성이 지속 진화하는 heterogeneous graph여야 하며, 초기 연결→피드백 정제→장기 통합 3단계의 progressive topology 진화와 단일 generalizability·maturity metric으로 일관 가이드해야 한다.

🔬 기술적 접근법

**방법론**: FluxMem — connectivity-evolving heterogeneous graph memory.
**핵심 기법**: (1) 메모리를 heterogeneous graph로 모델링, (2) 3 progressive stage — initial connection formation·feedback-driven refinement·long-term consolidation, (3) Missing link 복구·interference pruning·abstraction granularity 정렬, (4) 반복 성공 trajectory를 재사용 가능 procedural circuit으로 distill, (5) memory generalizability·evolutionary maturity의 단일 metric으로 진화 가이드.

📊 주요 결과

LoCoMo·Mind2Web·GAIA의 3 fundamentally distinct 벤치마크에서 일관 SOTA.
Dynamic agentic 환경의 강한 적응·일반화 능력 입증.
코드 오픈소스 예정: github.com/zjunlp/LightMem.

💭 의의 및 한계

**의의**: LLM 에이전트 메모리의 패러다임을 정적→connectivity-evolving으로 전환, 3 fundamentally 다른 벤치마크 SOTA로 일반성 입증, procedural circuit distillation으로 반복 성공의 재사용 가능성, 단일 metric으로 진화 가이드의 우아함. **한계**: Graph topology 진화의 계산 비용, 3 stage hyperparameter 조정 부담, 매우 긴 horizon에서의 graph 크기·검색 효율성은 추가 검증.

🚀 실용적 활용

장기 대화·long-horizon agent의 메모리 시스템.
Web navigation·tool-use·multi-step task 에이전트.
Personalized AI assistant의 적응 메모리.