multi-agent-debate value-systems defeasible-argumentation bayesian-architecture gradient-informed ai-transparency epistemology logic-ethics
Abstract
Multi-agent debate has emerged as a promising approach for improving LLM reasoning on ground-truth tasks, yet current methodologies face certain structural limitations: debate tends to induce a martingale over belief trajectories, majority voting accounts for most observed gains, and LLMs exhibit confidence escalation rather than calibration across rounds. We argue that the genuine value of debate, and dialectic systems as a whole, lies not in ground-truth tasks but in defeasible domains, where every position can in principle be defeated by better reasoning. We present the Council of Hierarchical Agentic Language (CHAL), a multi-agent dialectic framework that treats defeasible argumentation as an engine for belief optimization. Each agent maintains a CHAL Belief Schema (CBS), a graph-structured belief representation with a Bayesian-inspired architecture, that facilitates belief revision through a gradient-informed dynamic mechanism by leveraging the strength of the belief's thesis as a differentiable objective. Meta-cognitive value systems spanning epistemology, logic, and ethics are elevated to configurable hyperparameters governing agent reasoning and adjudication outcomes. We provide a series of ablation experiments that demonstrate systematic and interpretable effects: the adjudicator's value system determines the debate's overall trajectories in latent belief space, council diversity refines beliefs for all participants, and the framework generalizes across broad fields. CHAL is, to our knowledge, the first framework to treat multi-agent debate as structured belief optimization over defeasible domains. Further, the auditable belief artifacts it produces establish the foundation for dedicated evaluation suites for defeasible argumentation, with broader implications for building AI systems whose reasoning and value commitments are transparent, aligned, and subject to human oversight.
한국어 요약
📋 한 줄 요약
**[Multi-Agent LLM / 변증법적 추론]** 정답이 있는 과업이 아닌 defeasible domain에서 belief optimization을 수행하는 계층적 에이전트 변증법 프레임워크 CHAL 제안.
🎯 핵심 기여도
- 멀티에이전트 토론의 구조적 한계(belief martingale, majority voting 의존, confidence escalation)를 지적하고, 토론의 진정한 가치는 defeasible domain에 있다는 관점 제시.
- 각 에이전트가 Bayesian-inspired 그래프 belief 표현 CBS(CHAL Belief Schema)를 유지하는 계층적 에이전트 변증법 프레임워크 CHAL 설계.
- belief thesis 강도를 미분 가능 목표로 사용하는 gradient-informed 동적 belief revision 도입.
- 인식론·논리·윤리에 걸친 meta-cognitive value system을 hyperparameter로 끌어올려 토론 동역학·판정 결과를 제어 가능하게 함.
💡 핵심 아이디어
토론을 정답 추구의 도구로 보지 말고, defeasible 영역에서 belief를 최적화하는 엔진으로 재정의한다. belief를 그래프와 미분 가능 강도로 표현하면 의견 변경 자체가 학습 가능한 동작이 된다.
🔬 기술적 접근법
- **모델/방법론**: 계층적 에이전트 + 그래프 belief 표현(CBS) + 미분 가능 thesis strength.
- **핵심 기법**: Bayesian inspired belief 갱신, gradient-informed dynamic mechanism, adjudicator의 value system을 hyperparameter로 노출, 다양한 도메인 일반화 실험.
📊 주요 결과
- adjudicator의 value system이 latent belief 공간에서 토론 궤적을 결정.
- council diversity가 모든 참여자의 belief 정제에 기여.
- 다양한 분야에 일반화되는 시스템적 행동 입증.
💭 의의 및 한계
**의의**: 멀티에이전트 토론을 belief 최적화로 재정의해 defeasible 영역의 평가·정렬 토대를 마련하고, auditable belief artifact로 투명한 추론 검증을 가능케 함. **한계**: defeasible 도메인의 객관적 평가 메트릭 부재, value system을 hyperparameter로 노출하는 것의 윤리적·정치적 함의가 큼.
🚀 실용적 활용
- 정책 토론·윤리 토론 보조 AI 시스템.
- 다양한 가치 관점이 충돌하는 의사결정 회의록 보조.
- AI 시스템의 가치 정렬·감사 가능성을 높이는 belief 추적 도구.