POLAR-Bench: A Diagnostic Benchmark for Privacy-Utility Trade-offs in LLM Agents

LLM agents increasingly have access to private user data and act on the user's behalf when interacting with third-party systems. The user defines what may and must not be shared, and the agent must robustly follow that intent even when third-party systems behave adversarially. We introduce POLAR-Bench (Policy-aware adversarial Benchmark), in which a trusted model with a privacy policy and a task converses with a third-party model that adversarially probes for both task-relevant and protected attributes. Across 10 domains and 7,852 samples, we score privacy and utility by deterministic set-membership and vary privacy policy dimension and attack strategy along two orthogonal axes, producing a 5 times 5 diagnostic surface per model. Our results reveal a sharp split: current frontier models withhold over 99% of protected attributes, while smaller open-weight models in the 1--30B range, the class users most commonly run as their own trusted agent on-device or via private inference, score notably worse, with the weakest leaking over half. POLAR-Bench thus localizes where each model's intent-following breaks down, providing a foothold for privacy alignment where it matters most.

한 줄 요약

**[LLM 에이전트 / 프라이버시 평가]** trusted 에이전트가 사용자 정책을 따르며 adversarial third-party와 협상하는 시나리오를 10도메인·7,852샘플·5×5 진단 평면으로 측정하는 POLAR-Bench 제안.

핵심 기여도

LLM 에이전트가 사용자 개인정보를 가지고 third-party 시스템과 상호작용할 때, 사용자의 공유·비공유 의도를 강건하게 따라야 한다는 문제를 명시.
POLAR-Bench: 신뢰 모델이 프라이버시 정책+태스크와 함께 대화하고, third-party 모델이 task-relevant 및 protected attribute를 adversarially 탐색하는 대화형 평가 셋업.
10개 도메인·7,852 샘플에서 deterministic set-membership으로 privacy와 utility를 스코어링, privacy policy 차원과 attack strategy를 직교 축으로 변화시켜 모델당 5×5 진단 평면을 생성.
프론티어 모델은 protected attribute의 99% 이상을 보호하지만, 사용자가 self-host하는 1~30B 오픈웨이트 모델 군에서는 절반 이상을 누설하는 가장 약한 사례까지 발견되는 "급격한 격차"를 정량 보고.

핵심 아이디어

"프라이버시 준수"는 평균 점수가 아니라 정책 차원·공격 전략의 cross product 위에서 "어디서 깨지는가"를 보아야 측정 가능하다. POLAR-Bench는 그 5×5 평면을 모델마다 만들어 "intent-following이 무너지는 지점"을 정확히 위치 짓는다.

기술적 접근법

**모델/방법론**: trusted-agent + adversarial third-party 두 모델 대화 구조, 10도메인·7,852샘플 평가 셋.
**핵심 기법**: privacy policy 차원과 attack strategy를 직교 축으로 두는 5×5 진단 평면, deterministic set-membership으로 privacy·utility 동시 스코어링, 다양한 사이즈·family의 LLM 평가.

주요 결과

프론티어 모델: protected attribute의 99% 이상 보호.
1~30B 오픈웨이트 모델 군에서는 점수가 현저히 낮고, 가장 약한 모델은 절반 이상을 누설.
POLAR-Bench가 모델별 "intent-following이 무너지는 지점"을 5×5 평면 위에서 정확히 위치 지을 수 있음을 입증.

의의 및 한계

**의의**: 사용자 자체 호스팅이 가장 일반적인 오픈웨이트 모델 군에서 프라이버시 alignment가 가장 시급함을 정량적으로 드러내며, 어디를 고쳐야 할지 진단까지 제공. **한계**: privacy 정책이 deterministic set-membership으로 표현 가능한 attribute에 한정, 더 미묘한 contextual privacy는 후속 확장이 필요.

실용적 활용

on-device 또는 private inference로 LLM 에이전트를 사용하는 기업·연구자의 모델 선택.
오픈웨이트 LLM 후속 학습에서 프라이버시 alignment의 약점 도메인 식별·보완.
프라이버시 alignment 연구의 표준 진단 평면 제공.