한 줄 요약
PUBG Ally는 실시간 게임 플레이와 음성 대화를 결합한 첫 번째 상용 배틀로얄 게임 내 AI 동료이다.
핵심 기여도
- **PUBG Ally**는 음성 인터페이스를 통해 플레이어와 협력하며, 실시간 게임 컨트롤과 언어 모델 기반의 고수준 행동 결정을 결합한 첫 상용화된 AI 동료이다.
- **38,956세션**의 실제 플레이어와의 상호작용 데이터를 수집하여 반복 학습을 통해 모델을 개선했다.
- **25.1% 포인트**의 긍정적 추천 비율을 기록하며, 플레이어가 AI를 단순 도구가 아닌 동료로 인식하는 성공 사례를 제시했다.
- **System 1 & 2 구조**를 통해 언어 모델의 고속 추론과 결정을 빠른 행동 실행과 결합하여 실시간 대응 능력을 확보했다.
핵심 아이디어
PUBG Ally는 단순한 자동화된 게임 플레이를 넘어, 플레이어와 자연스럽게 협력하고 대화를 통해 상호작용하는 AI 동료를 구현하기 위해 **언어 모델 기반의 고수준 행동 결정**(System 2)과 **빠른 행동 실행**(System 1)을 결합한 **이중 구조**(dual-layer architecture)를 도입했다.
이 구조는 **Behavior Tree**를 사용한 결정 실행 층과, **SLM**(Small Language Model)을 통해 플레이어의 음성 입력을 해석하고, 게임 상태를 분석하여 대화 및 행동을 결정하는 층으로 구성된다. 특히, **SLM은 31B teacher 모델**에서 지식 증류(distillation)를 통해 학습되었으며, **DAgger 알고리즘**을 기반으로 학습 과정에서 teacher 모델의 보정을 반복적으로 적용하여 정확도를 향상시켰다.
또한, **PUBG 게임 내의 실시간 상황**(예: 총격전, 부상 복구)에 따라 동적으로 대화와 행동을 조율해야 하므로, **음성과 행동의 일관성**(speech-action synchronization)을 유지하는 것이 핵심이다. 이를 위해 **context compaction**과 **runtime guardrails**를 통해 모델의 출력을 제어하고, **memory redaction**을 통해 민감 정보를 제거하는 등 안전성을 강화했다.
기술적 접근법
- **System 2 (SLM)**: 플레이어의 음성 입력을 해석하고, 게임 상태를 분석하여 대화 및 행동 결정을 내리는 언어 모델.
- **System 1 (Behavior Tree)**: 빠른 실행이 필요한 행동(이동, 전투, 복구)을 처리하는 결정 실행 층.
- **DAgger 알고리즘**: teacher 모델의 보정을 반복적으로 학습하여 학습 과정을 개선.
- **Model Compression**: 31B teacher 모델에서 2B SLM으로 지식 증류(distillation)를 통해 모델 크기와 추론 속도를 최적화.
- **Context Compaction**: 게임 내 복잡한 정보를 텍스트로 요약하여 모델 입력을 제어.
- **Runtime Guardrails & Memory Redaction**: 플레이어와의 대화 중 부적절한 내용을 필터링하고, 민감 정보를 제거.
- **PC Bang 데이터 수집**: 28일간 1,046명의 플레이어와 38,956세션의 데이터를 수집하여 반복 학습에 활용.
주요 결과
- **38,956세션**의 실제 플레이어와의 상호작용 데이터를 기반으로 반복 학습을 진행.
- **25.1% 포인트**의 긍정적 추천 비율을 기록하며, 플레이어가 AI를 단순 도구가 아닌 동료로 인식.
- **SLM 모델**은 31B teacher 모델에서 distillation을 통해 학습, 2B 크기의 모델로 압축.
- **System 1 & 2 구조**를 통해 **실시간 게임 플레이**(이동, 전투, 복구)와 **음성 대화**를 동시에 처리.
- **DAgger 알고리즘**을 통해 teacher 모델의 보정을 반복 적용, 학습 과정에서 성능 향상.
의의 및 한계
PUBG Ally는 **상용 게임 내에서 실시간 음성 대화와 자율 플레이를 결합한 첫 AI 동료**로, 게임 AI의 새로운 가능성을 제시한다. 특히, **플레이어의 실제 피드백을 반복 학습에 통합**함으로써, 기존의 오프라인 평가와 실제 플레이어 선호도 간의 격차를 줄이는 데 성공했다.
그러나, **System 2**(SLM)와 **System 1**(Behavior Tree)는 별도로 최적화되었으며, **하이버스와 모델을 공동 최적화하지 않았다는 한계**가 있다. 또한, **push-to-talk 방식의 음성 입력**과 **턴 기반 대화**로 인해 실시간 음성 입력 처리는 제한적이며, **Full-duplex 음성 모델**과의 통합이 필요하다는 점도 개선 과제로 제시되었다.
실용적 활용
PUBG Ally는 **게임 개발**(AI 동료 구현), **AI 대화 시스템**(음성 인터페이스), **로봇 협업**(Ludi 0.1 등 물리적 환경에서의 적용) 등 다양한 분야에서 활용 가능하다. 특히, **실시간 상황 판단과 대화를 동시에 처리하는 시스템**이 필요한 산업**(예: 스마트 홈, 자율 주행)**에서 모델 구조와 학습 방식을 적용할 수 있다.