MET: Theory-Grounded and Culture-Aware Multilingual Moral Reasoning

Language models are increasingly used for moral decision-making across diverse linguistic and cultural contexts, yet existing work overlooks multilinguality on three aspects: 1) multilingual evaluation benchmarks use direct translation, failing to adapt culture-specific items; 2) inference-time methods for moral reasoning rely on static, English-centric scaffolds and lack grounding in moral theory; 3) training methods for moral decision-making typically require expensive supervision from stronger models or human annotators. We address these gaps with three contributions. First, we introduce MCLASH, a multilingual moral decision-making benchmark to capture culturally situated moral intuitions and social norms across languages. Second, we propose MET (Multilingual Ethics with Theory-grounded reasoning), a two-step prompting method built on expert-curated, theory-based grounds drawn from psychology and philosophy: the model first selects situation- and culture-specific grounds, then reasons over them in the native language of the user. Third, we introduce MET-D (MET-Distillation), which enhances the second step through a self-distillation training stage that requires no external supervision. MET-D improves macro-F1 over the base model on all three models of different sizes and families (Qwen3-4B, Qwen3-8B, Gemma3-4B), by an average of 3.71 points on MCLASH and 4.23 on MMoralExceptQA, with a peak MCLASH gain of 12.94 points for Malay on Qwen3-8B. We further reveal that MET-D increases native-language reasoning by 62.13 points on average, and that beneficial grounds differ systematically across cultures. Together, these contributions open the path for culture-aligned, theory-grounded multilingual moral reasoning.

한 줄 요약

MET는 문화와 이론을 반영한 다국어 윤리 추론을 위한 이론 기반 프롬프팅 및 자기 증류 기법을 제안한다.

핵심 기여도

MCLASH: 6개 언어(중국어, 힌디어, 한국어, 말레이어, 스페인어, 영어)에 걸쳐 1,852개의 장문 시나리오로 구성된 문화적 적응형 윤리 추론 평가 데이터셋.
MET: 심리학 및 철학 이론을 기반으로 한 이론-기반 이중 단계 프롬프팅 방법.
MET-D: 외부 감독 없이 이론 기반 추론 능력을 향상시키는 자기 증류 훈련 기법.
Qwen3-4B, Qwen3-8B, Gemma3-4B 모델에서 MCLASH에서 평균 3.71점, MMoralExceptQA에서 4.23점의 macro-F1 개선.

핵심 아이디어

기존 연구는 다국어 윤리 추론에서 문화적 맥락과 이론 기반 추론을 고려하지 못했다. MET는 이론 기반의 윤리적 근거를 선택하고, 사용자의 모국어로 추론을 생성하는 이중 단계 프롬프팅 방식을 제안한다. 이는 심리학과 철학 이론에서 도출된 6개 고차원 차원(Value Systems, Conflict Handling Strategies 등)으로 구성된 전문가가 큐레이트한 윤리적 근거를 기반으로 한다. MET-D는 이론 기반 추론을 강화하기 위해 외부 감독 없이 CLASH 유사 구조의 합성 데이터셋을 사용한 자기 증류 훈련을 도입한다.

기술적 접근법

**MCLASH**: CLASH 데이터셋을 5개 언어로 문화적 적응하여 구성. Qwen3-32B로 초기 생성 후 모국어 사용자 검토.
**MET**: 1단계에서 상황 및 문화에 맞는 윤리적 근거를 선택, 2단계에서 사용자의 모국어로 추론 생성.
**MET-D**: CLASH 유사 합성 데이터셋을 사용한 거부 샘플링 기반 자기 증류 훈련.
**모델**: Qwen3-4B, Qwen3-8B, Gemma3-4B.
**하이퍼파라미터**: 명시되지 않음.

주요 결과

Qwen3-4B, Qwen3-8B, Gemma3-4B 모델에서 MCLASH에서 평균 macro-F1 3.71점 개선.
말레이어에서 Qwen3-8B 모델에서 최대 12.94점 개선.
MMoralExceptQA에서 평균 4.23점 개선.
Qwen3-4B에서 모국어 추론 사용률 62.13% 증가.
문화별로 유익한 윤리적 근거가 체계적으로 달라짐.

의의 및 한계

MET는 문화적 맥락과 이론 기반 추론을 결합한 다국어 윤리 추론의 새로운 접근법을 제시한다. 특히, 외부 감독 없이 훈련 가능한 MET-D는 실제 적용 가능성과 비용 효율성을 높인다. 그러나, MET-D는 합성 데이터셋에 의존하며, 실제 인간의 윤리적 판단과의 일치 여부는 명시되지 않았다. 또한, 6개 언어에만 적용되었으며, 더 넓은 다국어 범위 확장이 필요하다.

실용적 활용

법률, 의료 등 고위험 분야에서 사용자의 문화적 가치 체계에 맞춘 윤리적 결정을 지원할 수 있다. 또한, 글로벌 서비스에서 사용자의 모국어로 명확하고 신뢰할 수 있는 추론을 제공하여 사용자 신뢰를 높일 수 있다.