Reducing Political Manipulation with Consistency Training

Long Phan, Devin Kim, Alexander Pan, Alice Blair, Adam Khoja, Dan Hendrycks

arXiv:2605.22771 · 2026-05-20 공개 · arXiv · PDF

reinforcement-learning llm rl-training bias-mitigation consistency-training sentiment-consistency helpfulness-consistency political-bias

Abstract

Large language models (LLMs) exhibit systematic political bias across a variety of sensitive contexts. We find that LLMs handle counterpart topics from opposing political sides asymmetrically. We refer to this phenomenon as covert political bias and identify 7 categories of techniques through which it operates. We propose two metrics for covert bias: Sentiment Consistency measures symmetry in rhetoric and framing across paired political prompts; Helpfulness Consistency measures symmetric depth and engagement. To reduce both types of covert bias, we introduce Political Consistency Training (PCT), an RL training method with two complementary paradigms: Sentiment Consistency Training and Helpfulness Consistency Training. We show that PCT preserves overall helpfulness, substantially reduces covert political bias, and generalizes to held-out benchmarks. We release our work at https://political-manipulation.ai

한국어 요약

📋 한 줄 요약

**[LLM 정치 편향 / RL]** Covert political bias의 7 카테고리·2 metric(Sentiment·Helpfulness Consistency) 정식화 + PCT(Political Consistency Training) — sentiment·helpfulness 두 RL paradigm으로 covert bias 감소하면서 helpfulness 보존·held-out 일반화.

🎯 핵심 기여도

💡 핵심 아이디어

LLM의 정치 편향은 명시적 거부·왜곡보다 paired 정치 주제에 대한 sentiment·helpfulness의 미묘한 비대칭(covert bias)으로 발

💡 핵심 아이디어

LLM의 정치 편향은 명시적 거부·왜곡보다 paired 정치 주제에 대한 sentiment·helpfulness의 미묘한 비대칭(covert bias)으로 발현되며, 이를 metric으로 측정하고 sentiment·helpfulness consistency를 RL 목표로 직접 강제하면 전체 유용성 손실 없이 일반화 가능한 bias 감소가 가능하다.

🔬 기술적 접근법

📊 주요 결과

💭 의의 및 한계

**의의**: LLM 편향 평가에 covert 측면 정립, 두 consistency metric의 일반 적용 가능 정의, RL로 정렬 비용을 helpfulness 손실 없이 줄이는 실용 레시피, 정치 콘텐츠 신뢰성·민주적 가치에 직접 기여. **한계**: Paired prompt 구성의 정치 spectrum coverage 한계, 두 metric으로 covert bias 전체를 캡처하기 어려움, 정치 외 다른 민감 topic으로 직접 일반화 추가 검증.

🚀 실용적 활용