Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models

Much recent work seeks to evaluate values and opinions in large language models (LLMs) using multiple-choice surveys and questionnaires. Most of this work is motivated by concerns around real-world LLM applications. For example, politically-biased LLMs may subtly influence society when they are used by millions of people. Such real-world concerns, however, stand in stark contrast to the artificiality of current evaluations: real users do not typically ask LLMs survey questions. Motivated by this discrepancy, we challenge the prevailing constrained evaluation paradigm for values and opinions in LLMs and explore more realistic unconstrained evaluations. As a case study, we focus on the popular Political Compass Test (PCT). In a systematic review, we find that most prior work using the PCT forces models to comply with the PCT's multiple-choice format. We show that models give substantively different answers when not forced; that answers change depending on how models are forced; and that answers lack paraphrase robustness. Then, we demonstrate that models give different answers yet again in a more realistic open-ended answer setting. We distill these findings into recommendations and open challenges in evaluating values and opinions in LLMs.

한 줄 요약

LLM의 가치관 평가에서 강제 선택형 평가가 현실과 동떨어진 결과를 유발한다는 점을 밝히고, 보다 현실적인 평가 방법을 제안한다.

핵심 기여도

기존 연구가 Political Compass Test(PCT)를 사용할 때 모델을 강제로 다중 선택 형식에 맞추는 경향을 분석 (12개 연구 검토).
강제 형식에 따라 LLM의 답변이 달라짐을 보여 (§4.2, 4.3).
질문의 미세한 재구성(파라프레이즈)에도 답변이 변동함을 실험적으로 입증 (§4.4).
개방형 답변 환경에서 다시 다른 결과를 도출함을 확인 (§4.5).

핵심 아이디어

기존 연구는 LLM의 가치관을 평가하기 위해 설문 조사 형식의 다중 선택 질문을 사용하지만, 실제 사용자 행동과는 거리가 있다. 이에 따라, 연구자들은 LLM이 답변을 강제로 선택하도록 유도하는 방식을 사용하지만, 이는 모델의 답변을 왜곡할 수 있다. 연구는 PCT를 사례로, 강제 평가가 결과의 불안정성과 일반화 불가능성을 초래함을 보여준다. 핵심 통찰은, LLM이 단일한 가치관을 가지는 것이 아니라, 입력 문맥에 따라 다양한 입장을 표현할 수 있다는 점이다. 이는 LLM이 인간처럼 단일 인격을 갖는 것이 아니라, 다양한 시뮬라크라의 중첩(superposition)을 표현한다는 관점과 일치한다.

기술적 접근법

평가 도구: Political Compass Test (PCT)
평가 형식: 다중 선택 형식 vs. 개방형 답변
실험 방법:
§4.2: 강제 선택 없이 답변을 유도
§4.3: 강제 선택 방식을 달리한 실험
§4.4: 질문의 파라프레이즈를 통해 답변 일관성 검증
§4.5: 실제 사용자와 유사한 개방형 답변 환경에서 평가
데이터: Google Scholar, arXiv, ACL Anthology에서 12개 PCT 기반 연구 검토

주요 결과

PCT 기반 평가에서 강제 선택 형식에 따라 LLM의 답변이 달라짐 (§4.2, 4.3).
질문의 미세한 변화(파라프레이즈)에도 답변이 변동 (§4.4).
개방형 평가에서는 또 다른 결과가 도출됨 (§4.5).
강제 평가와 개방형 평가 간 결과 차이가 명확 (PCT 기반 실험).
LLM의 답변은 문맥에 따라 극단적으로 상반될 수 있음.

의의 및 한계

이 연구는 LLM의 가치관 평가가 기존 방식으로는 신뢰할 수 없다는 점을 강조하며, 평가 형식이 결과에 큰 영향을 미친다는 점을 실증적으로 보여준다. 이는 LLM이 단일한 가치관을 갖는 것이 아니라, 다양한 시뮬라크라의 중첩을 표현한다는 개념과 일치하며, 평가 방법론의 재고를 촉구한다. 그러나 연구는 특정 평가 도구(PCT)에만 초점을 맞춘 한계가 있으며, 다른 평가 도구나 상황에서의 일반화 가능성은 명시되지 않았다. 또한, 개방형 평가에서도 불안정성이 남아 있다는 점에서, LLM이 어떤 방식으로든 일관된 가치관을 표현하는지는 여전히 논란이 있다.

실용적 활용

이 연구는 LLM이 실제 사용 환경에서 어떻게 가치관을 표현하는지를 이해하고, 이를 바탕으로 보다 현실적인 평가 시스템을 설계하는 데 기여할 수 있다. 특히, 사용자와의 대화에서 가치관이 어떻게 드러나는지를 평가하는 데 유용하며, 정책 결정, 교육, 미디어 등 다양한 분야에서 LLM의 신뢰성과 편향성을 평가하는 데 활용될 수 있다.