From Descriptive to Prescriptive: Uncover the Social Value Alignment of LLM-based Agents

Wide applications of LLM-based agents require strong alignment with human social values. However, current works still exhibit deficiencies in self-cognition and dilemma decision, as well as self-emotions. To remedy this, we propose a novel value-based framework that employs GraphRAG to convert principles into value-based instructions and steer the agent to behave as expected by retrieving the suitable instruction upon a specific conversation context. To evaluate the ratio of expected behaviors, we define the expected behaviors from two famous theories, Maslow's Hierarchy of Needs and Plutchik's Wheel of Emotion. By experimenting with our method on the benchmark of DAILYDILEMMAS, our method exhibits significant performance gains compared to prompt-based baselines, including ECoT, Plan-and-Solve, and Metacognitive prompting. Our method provides a basis for the emergence of self-emotion in AI systems.

📋 한 줄 요약

**[LLM Agent / Alignment]** 원칙을 가치 기반 지시문으로 변환하는 GraphRAG와, Maslow 욕구·Plutchik 감정 이론에서 도출된 기대 행동을 결합해 LLM 에이전트의 사회적 가치 정렬을 강화한다.

🎯 핵심 기여도

LLM 에이전트의 사회적 가치 정렬에서 현존 방법이 자기 인지·딜레마 결정·자기 감정 측면에서 부족하다는 점을 지적
원칙(principle)을 가치 기반 지시문(value-based instruction)으로 변환하고, 대화 맥락에 따라 적절한 지시문을 검색해 에이전트를 조향하는 GraphRAG 기반 프레임워크 제안
평가 기준으로 Maslow의 욕구 계층과 Plutchik의 감정 휠 두 고전 이론에서 "기대 행동"을 정의하여 정렬 측정 방법을 제시
DAILYDILEMMAS 벤치마크에서 ECoT, Plan-and-Solve, Metacognitive prompting 등 프롬프트 기반 베이스라인 대비 큰 성능 향상

💡 핵심 아이디어

LLM의 가치 정렬은 단발적 프롬프트 기교보다, "원칙→가치 기반 지시문→상황 검색→행동"의 검색 증강 구조 위에서 더 잘 작동한다. 평가는 단순 정답률이 아니라, 인간 심리 이론에서 도출된 기대 행동의 등장 비율로 측정하는 것이 자연스럽다.

🔬 기술적 접근법

**모델/방법론**: GraphRAG를 활용해 원칙을 value-based instruction으로 변환·인덱싱하고, 대화 컨텍스트에 적합한 지시문을 검색해 LLM 에이전트의 행동을 조향하는 가치 기반 프레임워크
**핵심 기법**: 원칙 → 가치 지시문 변환 그래프 구성, 상황 기반 retrieval, Maslow/Plutchik 이론에서 기대 행동 집합 정의 후 비율로 평가

📊 주요 결과

DAILYDILEMMAS 벤치마크에서 ECoT, Plan-and-Solve, Metacognitive prompting 대비 상당한 성능 향상
Maslow 욕구·Plutchik 감정 기반 기대 행동의 등장 비율로 정렬 성능을 정량 평가
AI 시스템에서 자기 감정(self-emotion) 출현의 기반을 제공한다는 정성적 관찰

💭 의의 및 한계

**의의**: 가치 정렬을 "프롬프트 엔지니어링"에서 "구조화된 retrieval 기반 행동 정책"으로 전환할 수 있음을 보임. **한계**: Maslow/Plutchik 같은 이론적 프레임이 본질적으로 인간 심리 모델이라 LLM에 그대로 적용했을 때의 타당성, 단일 벤치마크 위주의 평가.

🚀 실용적 활용

가치 민감한 도메인(헬스케어·교육·상담)의 LLM 에이전트 설계
사내 윤리 가이드라인→실제 행동 정책 자동화
멀티 에이전트 시뮬레이션에서의 사회적 가치 일관성 유지