Σ-Mem: An Online Reliability Memory for LLM-based Multi-Agent Systems

Memory is central to long-horizon LLM agents, yet existing memory systems primarily preserve interaction content rather than modeling which agents can be trusted and under what conditions. This limitation is particularly important in multi-agent systems, where a central model may be unable to directly verify plausible or correlated peer responses. We introduce Σ-Mem, an online reliability memory that records historical competence evidence for individual peers and peer relationship evidence across the peer set. Both forms of evidence are maintained as real symmetric states and updated from post-decision correctness feedback. By Weyl's inequality, the spectral change caused by each event-level update is bounded, enabling stable online adaptation without retraining the underlying models. Σ-Mem provides a general write-and-read interface: the same memory can be used for residual steering of a central model, response-free peer routing, or reliability-weighted voting. Across five Qwen-family models, Σ-Mem adapts to counterfactual reliability shifts and generalizes to unseen peers and task domains. Direct memory readouts also outperform majority voting and the best fixed peer over the full OOD evaluation set. Moreover, performance improves consistently as more correctness feedback becomes available, indicating that Σ-Mem progressively accumulates actionable reliability information. These results establish reliability memory as a reusable foundation for adaptive coordination in LLM-based multi-agent systems.

한 줄 요약

Σ-Mem은 LLM 기반 다중 에이전트 시스템에서 신뢰도를 기반으로 동적으로 조정하는 온라인 메모리 시스템이다.

핵심 기여도

Σ-Mem은 개별 에이전트와 에이전트 간 관계의 신뢰도를 실시간으로 기록하고 업데이트하는 메모리 구조를 제안.
Weyl의 부등식을 활용해 업데이트 시 스펙트럼 변화를 제한하여 모델 재학습 없이 안정적인 온라인 적응 가능.
Qwen 패밀리 모델 5개에서 OOD 평가셋에서 기존 다수결 투표 및 최고 성능 고정 에이전트를 초과.
신뢰도 피드백이 증가할수록 성능이 지속적으로 향상됨을 보여, 신뢰 정보가 누적적으로 활용 가능.

핵심 아이디어

기존 메모리 시스템은 주로 대화 내용을 저장하는 데 초점을 맞추었으나, Σ-Mem은 **개별 에이전트의 신뢰도**와 **에이전트 간 관계의 신뢰도**를 기록하는 새로운 메커니즘을 도입한다. 이는 단순히 과거 대화를 저장하는 것이 아니라, **정확도 피드백을 기반으로 실시간으로 신뢰도를 업데이트**하는 방식이다.
Weyl의 부등식을 통해 스펙트럼 변화를 제한함으로써, 메모리 업데이트가 모델의 안정성에 영향을 주지 않도록 보장한다. 이는 모델 재학습 없이도 온라인 적응이 가능하도록 한다. 핵심 아이디어는 **신뢰도를 실시간으로 추적하고, 이를 다양한 에이전트 조정 방식에 재사용**할 수 있다는 점이다.

기술적 접근법

Σ-Mem은 **개별 에이전트의 신뢰도**와 **관계 신뢰도**를 **실수 대칭 상태(real symmetric states)**로 유지.
**사후 결정 정확도 피드백**을 기반으로 상태 업데이트.
Weyl의 부등식을 통해 **이벤트 수준 업데이트의 스펙트럼 변화를 제한**.
메모리 인터페이스는 **잔여 조정(residual steering), 응답 없는 라우팅(response-free routing), 신뢰도 가중치 투표(reliability-weighted voting)** 등으로 활용 가능.
Qwen 패밀리 모델 5개에서 실험 수행.

주요 결과

OOD 평가셋에서 Σ-Mem의 **직접 메모리 읽기 성능**이 **다수결 투표**와 **최고 성능 고정 에이전트**를 초과.
신뢰도 피드백이 증가함에 따라 성능이 **지속적으로 향상**됨.
**5개 Qwen 모델**에서 **카운터팩츄얼 신뢰도 변화**에 적응하고, **미확인 에이전트 및 작업 도메인**으로 일반화 가능.

의의 및 한계

Σ-Mem은 LLM 기반 다중 에이전트 시스템에서 **신뢰도 기반 동적 조정**을 가능하게 하며, 기존 메모리 기반 접근법의 한계를 극복한다. 특히, **온라인 적응과 재학습 없이도 안정적으로 작동**하는 점이 학술적·실용적 가치를 높인다.
그러나, Σ-Mem은 **정확도 피드백이 필요**하며, 피드백이 부족하거나 불균형일 경우 성능이 저하될 수 있다. 또한, **모델 간의 관계 신뢰도 추정이 복잡한 상황**에서는 한계가 있을 수 있다.

실용적 활용

Σ-Mem은 **LLM 기반 협업 시스템**, **다중 에이전트 의사결정 플랫폼**, **자동화된 고객 지원 시스템** 등에서 **신뢰도 기반 동적 라우팅 및 투표**에 활용 가능하다. 특히, **실시간 피드백이 가능한 환경**에서 유용하게 사용될 수 있다.