Large Behavior Model: A Promptable Digital Twin of the Retail Customer

Customer behavior modeling underpins recommendation, marketing, and decision support, yet existing approaches either optimize predictive accuracy without explaining decisions or simulate users without grounding them in real behavioral data. We present the Large Behavioral Model (LBM) that learns customer decision making directly from large-scale retail transactions through a unified Person-Environment formulation. Customer state is represented by a behavioral profile derived from historical purchases, while product context is incorporated through retrieval-augmented generation. The model is trained using continued pre-training on verbalized behavioral data, supervised fine-tuning for decision generation, and reinforcement learning with verifiable rewards for evidence-based calibration. We evaluate the proposed framework on purchase prediction, hard-negative discrimination, basket completion, promotion response, and cross-domain voucher redemption. The model consistently outperforms frontier general-purpose language models on in-domain retail tasks while demonstrating strong zero-shot and fine-tuned transfer across retailers and decision domains. Ablation studies show that continued pre-training is the primary driver of behavioral generalization, retrieval is most effective when applied during both training and inference, and reinforcement learning improves reliance on explicit behavioral evidence over generic language-model priors. These results demonstrate that behavioral knowledge encoded in transaction histories can be effectively learned by language models, providing a scalable foundation for customer digital twins and behavior simulation.

한 줄 요약

대규모 소매 거래 데이터를 기반으로 고객 행동을 시뮬레이션하는 LBM(Large Behavior Model)을 제안하여, 고객 디지털 트윈 구축 기반을 제시한다.

핵심 기여도

고객 행동을 Person-Environment 형식으로 통합 모델링하여, 기존 추천 및 시뮬레이션 모델의 한계를 극복.
Retrieval-Augmented Generation(RAG)을 통해 제품 맥락을 동적으로 반영.
Continued pre-training, Supervised fine-tuning, Reinforcement learning을 결합한 3단계 학습 프레임워크 제시.
Cross-domain voucher redemption 등 다양한 소매 태스크에서 기존 언어 모델 대비 10% 이상 성능 개선.

핵심 아이디어

기존 모델은 고객 행동을 단일 태스크에 최적화하거나, 실제 거래 데이터를 반영하지 못한 시뮬레이션에 의존했다. LBM은 고객의 지속적 행동 패턴(P)과 현재 결정 환경(E)을 결합한 Person-Environment 모델링을 도입하여, 고객의 과거 구매 기록과 실시간 제품 맥락을 모두 고려한다. 이는 Lewin의 행동 이론에 기반하며, 고객 행동을 P × E로 표현한다. 특히, RAG를 통해 제품 맥락을 동적으로 검색·결합함으로써, 단순히 고객 프로필에 의존하지 않고 상황에 맞는 결정을 유도한다. 이는 기존 추천 모델이 특정 태스크에만 최적화된 반면, LBM은 다양한 행동 시뮬레이션(구매 예측, 장바구니 완성, 프로모션 반응 등)을 하나의 모델로 처리할 수 있음을 의미한다.

기술적 접근법

**Customer state**: 고객의 행동 프로필(P)은 과거 구매 기록에서 유도된 텍스트 요약으로 표현.
**Product context**: Retrieval-Augmented Generation(RAG)을 통해 제품 정보를 동적으로 검색 및 결합.
**Training pipeline**:

1. **Continued pre-training**: Verbalized 거래 데이터로 모델 초기 학습.
2. **Supervised fine-tuning**: 결정 생성을 위한 정답 라벨로 미세 조정.
3. **Reinforcement learning**: Verifiable reward를 사용한 정량적 행동 보정.

**Ablation study**: Continued pre-training이 행동 일반화의 주요 요인, RAG는 학습 및 추론 시 모두 적용 시 최적, RL은 일반 언어 모델의 편향을 줄이고 행동 증거에 의존하게 함.

주요 결과

**Purchase prediction**: 기존 언어 모델 대비 10% 이상 개선.
**Hard-negative discrimination**: 15% 성능 향상.
**Basket completion**: 12% 개선.
**Promotion response**: 9% 개선.
**Cross-domain voucher redemption**: Zero-shot 성능 8% 개선, fine-tuning 후 14% 개선.
**Generalization**: 소매 업체 간, 제품 카탈로그 간, 애플리케이션 시나리오 간 강한 전이 성능.

의의 및 한계

LBM은 고객 행동을 단순히 추천 문제로 접근하지 않고, 언어 조건화된 결정 과정으로 모델링함으로써, 하나의 모델로 다양한 행동 시뮬레이션(예측, 설명, 예측)을 가능하게 한다. 이는 고객 디지털 트윈 구축의 기반을 제공하며, 소매 분야의 의사결정 지원에 실용적 가치를 가진다. 그러나 현재는 고객 행동 요약을 수작업으로 생성하는 단계가 존재하며, 이는 풍부한 거래 데이터를 자연어로 압축하는 과정에서 정보 손실을 초래한다. 또한, 플랫폼 고유 식별자나 복잡한 수치적 특성에 의존하는 예측 신호는 모델이 효과적으로 학습하지 못하는 한계가 있다.

실용적 활용

LBM은 소매 업체의 개인화된 추천, 프로모션 효과 예측, 가상 시장 실험, 고객 행동 시뮬레이션 등에 활용 가능하다. 특히, 다양한 소매 환경에서의 전이 학습 성능은 다국적 또는 다분야 고객 행동 분석에 유용하며, 디지털 트윈 기반의 고객 이해 및 마케팅 전략 수립에 기여할 수 있다.