Alignment as Jurisprudence

Jurisprudence, the study of how judges should properly decide cases, and alignment, the science of getting AI models to conform to human values, share a fundamental structure. These seemingly distant fields both seek to predict and shape how decisions by powerful actors, in one case judges and in the other increasingly powerful artificial intelligences, will be made in the unknown future. And they use similar tools of the specification and interpretation of language to try to accomplish those goals. The great debates of jurisprudence, about what the law is and what it should be, can provide insight into alignment, and lessons from what does and does not work in alignment can help make progress in jurisprudence. This essay puts the two fields directly into conversation. Drawing on leading accounts of jurisprudence, particularly Dworkin's principle-oriented interpretivism and Sunstein's positivist account of law as analogical reasoning, and on cutting-edge alignment approaches, namely Constitutional AI and case-based reasoning, it illustrates the value of a more sophisticated legally-inspired approach to the interplay of rules and cases in finetuning alignment and points to ways that AI can provide a better understanding of how the law works and how it can be improved by the introduction of AI. AI systems and the law should operate to empower people to act in the world, helping to expand their capabilities and the extent to which they are able to achieve their goals. As AI continues to improve in capacity, and as the constraints that legal theory places on human judges seem be coming undone, the conversation between these two fields will become increasingly essential and may help point to a better version of both.

📋 한 줄 요약

**[AI Alignment / Legal Theory]** AI 정렬 문제를 법학(jurisprudence)의 관점에서 재해석하고, Dworkin·Sunstein 같은 법이론과 Constitutional AI·case-based reasoning을 직접 대비시키는 에세이.

🎯 핵심 기여도

정렬과 법학이 '강력한 행위자의 미래 결정을 예측·형성한다'는 동일한 구조를 공유함을 정립
Dworkin의 원칙 중심 해석주의와 Sunstein의 유추 추론적 법 실증주의를 정렬 연구와 연결
Constitutional AI와 사례 기반 추론을 법학의 규칙-사례 상호작용 관점에서 재조명
두 분야 간 상호 학습의 구체적 통로를 제시

💡 핵심 아이디어

판사가 법을 어떻게 결정해야 하는지에 대한 법학적 논쟁은, AI를 어떻게 인간 가치에 부합시킬 것인가에 대한 정렬 논쟁과 동형적이다. 두 분야 모두 언어의 명세와 해석이라는 동일한 도구를 사용한다.

🔬 기술적 접근법

**모델/방법론**: 비교 이론 에세이 형식. 정렬 기법(Constitutional AI, case-based RLHF)과 법이론(원칙 해석주의, 유추 추론)을 1:1로 대응
**핵심 기법**: 규칙과 사례의 상호작용을 정렬 파인튜닝의 핵심 축으로 재구성하는 분석틀 제안

📊 주요 결과

정렬에서 작동하는 것과 작동하지 않는 것이 법학의 오랜 논쟁(규칙 대 원칙)에 새로운 증거를 제공함을 사례적으로 제시
AI 시스템과 법이 모두 인간 역량 확장이라는 공동 목표 아래 통합 가능함을 주장

💭 의의 및 한계

**의의**: AI 안전 연구자와 법학자 사이의 학제 간 대화를 위한 구체적 어휘와 프레임을 제공한다. **한계**: 정량적 실험이나 측정 지표가 없는 개념적 에세이로, 실제 정렬 알고리즘 개선으로 이어지려면 추가 구현이 필요하다.

🚀 실용적 활용

AI 거버넌스 및 규제 정책 설계에 법학적 통찰 적용
Constitutional AI 헌법 작성 시 법 해석 이론을 가이드로 활용
사례 기반 정렬 데이터셋 구축의 이론적 토대 마련