Delayed Verification Destabilizes Multi-Agent LLM Belief: Instability Thresholds and Optimal Corrector Placement

Multi-agent large language model (LLM) systems often rely on verifier and critic agents to suppress hallucinations, but verification is delayed. During this delay, false claims can propagate through the agent network. We model this process as delayed consensus on a graph with grounded corrector nodes. Spectral decomposition by the grounded Laplacian yields a closed-form stability threshold for the verification dose: correction that is too strong or too delayed can turn consensus into oscillation. The most unstable regime occurs when the communication and verification delays coincide; for delay two, the threshold is the inverse golden ratio. The same framework gives a supermodular placement objective and a greedy (1-1/e)-approximation rule for assigning a limited corrector budget to influential nodes. Experiments across five open models confirm the predicted dose-delay oscillations. By contrast, grounded factual answering makes truth an absorbing boundary and eliminates the effect, suggesting that the instability is specific to signed-belief tasks while grounded verification remains stabilizing

한 줄 요약

지연된 검증이 다중 에이전트 LLM 시스템의 믿음 불안정을 유발하며, 이는 특정 임계값과 올바른 검증 노드 배치로 조절 가능하다.

핵심 기여도

지연된 검증이 다중 에이전트 LLM에서 믿음의 불안정을 유발하며, 이는 **grounded Laplacian**을 통해 **닫힌 형태의 안정성 임계값**으로 정량화됨.
지연이 2일 때, 안정성 임계값은 **역황금비율**(inverse golden ratio)로 나타남.
**Supermodular placement objective**와 **(1-1/e)-근사 규칙**을 통해 제한된 검증 예산을 **고영향력 노드**에 할당하는 최적 배치 전략 제시.
5개 오픈 모델에서 **dose-delay 진동**(signed dose–delay oscillation)이 예측된 대로 나타남.

핵심 아이디어

다중 에이전트 LLM 시스템에서 검증이 지연될 경우, 거짓 주장이 네트워크를 통해 확산되어 믿음의 불안정을 유발할 수 있다. 이는 **지연된 합의**(delayed consensus) 모델로 설명되며, **grounded Laplacian**을 사용한 스펙트럼 분해를 통해 **닫힌 형태의 안정성 임계값**을 도출할 수 있다. 특히, 지연이 2일 때의 임계값은 **역황금비율**로 정량화된다. 이는 **지나치게 강하거나 지연된 검증**이 합의를 진동으로 전환시킬 수 있음을 의미한다. 또한, **supermodular objective**를 기반으로 한 **(1-1/e)-근사 알고리즘**은 제한된 예산으로 최적의 검증 노드 배치를 가능하게 한다. 이는 **네트워크의 증폭기와 다리 노드**(amplifier and bridge nodes)에 집중하는 전략이다.

기술적 접근법

**Delayed consensus model**: 다중 에이전트 믿음의 변화를 **지연된 합의**(delayed consensus)로 모델링.
**Grounded Laplacian**: 네트워크 구조를 반영한 **grounded Laplacian** $ L_g $을 사용해 믿음의 진화를 **독립적인 스칼라 지연 재귀**(independent scalar delay recurrences)로 분해.
**Verification dose and delay**: 검증 강도 $ \kappa $와 지연 $ \delta $가 시스템 안정성에 영향을 주며, $ \kappa $가 임계값을 넘으면 진동 발생.
**Greedy placement rule**: **Supermodular objective**를 기반으로 한 **(1-1/e)-근사 알고리즘**을 사용해 검증 예산을 **고영향력 노드**에 할당.
**Empirical validation**: 5개 오픈 모델에서 **signed dose–delay oscillation**이 예측된 대로 나타남.

주요 결과

**Delay 2 시 임계값**: 역황금비율 $ \frac{1}{\phi} \approx 0.618 $로 나타남.
**Empirical validation**: 5개 오픈 모델에서 **96–100%**의 불안정 실행에서 진동 발생, 안정 시 0–4%.
**Grounded factual answering**: 진실을 **absorbing boundary**로 취급하면 불안정성 제거됨.
**Synthetic loop**: 예측된 진동 시작 시점과 **2% 이내**로 일치.

의의 및 한계

**학술적 의의**: 다중 에이전트 LLM 시스템에서 **지연된 검증의 안정성 임계값**을 정량화하여, 기존의 **post-hoc 분석**을 넘어 **closed-loop 안정성**을 모델링함.
**실용적 의의**: **(1-1/e)-근사 알고리즘**을 통해 제한된 예산으로 최적의 검증 노드 배치 가능.
**한계**: 본 연구는 **단일 스칼라 믿음**(scalar belief)을 가정하며, **복잡한 내용 수준 현상**(truth dilution, claim provenance 등)은 고려하지 않음. 또한, **비대칭 파이프라인**(generator → verifier → rewriter)은 모델링 범위 밖에 있음.

실용적 활용

**LLM 에이전트 네트워크**에서 검증 지연이 발생하는 경우, **검증 강도와 지연**을 임계값 내에서 조절해야 하며, **고영향력 노드에 검증 노드 배치**를 통해 불안정성을 최소화할 수 있음.
**실시간 감시 시스템**에서 **(1-1/e)-근사 알고리즘**을 활용해 **제한된 예산으로 최적 검증 배치**를 설계할 수 있음.
**사실 기반 질문 답변**(grounded factual answering)은 불안정성을 제거하므로, **안정성 보장이 필수적인 작업**에는 적용 가능.