Partial Evidence Bench: Benchmarking Authorization-Limited Evidence in Agentic Systems

Enterprise agents increasingly operate inside scoped retrieval systems, delegated workflows, and policy-constrained evidence environments. In these settings, access control can be enforced correctly while the system still produces an answer that appears complete even though material evidence lies outside the caller's authorization boundary. This paper introduces Partial Evidence Bench, a deterministic benchmark for measuring that failure mode. The benchmark ships three scenario families -- due diligence, compliance audit, and security incident response -- with 72 tasks total, ACL-partitioned corpora, oracle complete answers, oracle authorized-view answers, oracle completeness judgments, and structured gap-report oracles. It evaluates systems along four surfaces: answer correctness, completeness awareness, gap-report quality, and unsafe completeness behavior. Checked-in baselines show that silent filtering is catastrophically unsafe across all shipped families, while explicit fail-and-report behavior eliminates unsafe completeness without collapsing the task into trivial abstention. Preliminary real-model runs show model-dependent and scenario-sensitive differences in whether systems overclaim completeness, conservatively underclaim, or report incompleteness in an enterprise-usable form. The benchmark's broader contribution is to make a governance-critical agent failure measurable without human judges or contamination-prone static corpora.

📋 한 줄 요약

**[LLM 평가/안전성]** 권한 경계 밖 증거가 존재할 때 에이전트가 ‘완전해 보이는 거짓 응답’을 내놓는 실패 양식을 정량화하는 결정론적 벤치마크 Partial Evidence Bench를 제안한다.

🎯 핵심 기여도

ACL로 분할된 코퍼스 위에서 권한 제한 증거 환경을 재현하는 72개 태스크의 결정론적 벤치마크 구축
정답 정확도, 완전성 인지, 갭 리포트 품질, 비안전 완전성 행동 등 4개 평가 표면 정의
실사용 시나리오 3종(실사 검토, 컴플라이언스 감사, 보안 사고 대응) 제공
"조용한 필터링"이 모든 시나리오에서 치명적이며, "명시적 실패-보고" 동작이 안전성을 회복함을 정량적으로 입증

💡 핵심 아이디어

접근 제어가 올바르게 작동해도 시스템이 부분 정보로부터 완전해 보이는 답변을 만들어내는 실패가 존재한다. 이를 인간 심사자나 오염되기 쉬운 정적 코퍼스 없이도 측정 가능한 거버넌스 지표로 전환한다.

🔬 기술적 접근법

**모델/방법론**: Partial Evidence Bench — ACL 분할 코퍼스 + 오라클 답변/판정/갭 리포트
**핵심 기법**: 동일 질의에 대해 (i) 권한 무제한 오라클, (ii) 권한 한정 오라클, (iii) 완전성 판정 오라클, (iv) 구조화된 갭 리포트 오라클을 모두 제공하여 결정론적 채점을 가능하게 함.

📊 주요 결과

조용한 필터링 베이스라인은 모든 3개 시나리오 패밀리에서 비안전 완전성 점수가 매우 높음
명시적 실패-보고 베이스라인은 비안전 완전성을 제거하면서 trivial 거부로 붕괴하지 않음
실제 모델 평가에서 과대 주장/과소 주장/적절 보고가 모델·시나리오에 따라 강하게 갈림

💭 의의 및 한계

**의의**: 기업 환경에서 거버넌스적으로 중요한 ‘부분 증거 실패’를 인간 심사 없이 자동 측정할 수 있는 첫 결정론적 도구. **한계**: 시나리오 수가 72개로 제한적이고 동적 ACL 변화나 적대적 권한 우회 상황은 다루지 않음.

🚀 실용적 활용

기업용 RAG/에이전트 시스템의 갭 보고 능력 회귀 평가
컴플라이언스/감사용 에이전트 안전성 인증 절차
권한 기반 검색 시스템의 안전 모드 설계 가이드