PUBG Ally: A Conversational Embodied Agent as an AI Teammate

arXiv:2609.29837 · 2026-09-27 공개 · arXiv · PDF

tool-use model-compression latency-optimization conversational-ai real-time-interaction embodied-agent multiplayer-games game-control

Abstract

We introduce PUBG Ally, an embodied agent for PUBG: BATTLEGROUNDS that can reason, act autonomously, and play alongside players as a voice-enabled teammate. Building such a teammate requires combining two difficult capabilities: it must perceive and respond to a constantly changing game world under strict latency constraints while interacting naturally with players, keeping its speech synchronized with its actions. Ally therefore combines agentic tool use with real-time game control. A language-model agent uses a controlled interface to inspect game information, interpret player speech, maintain context, decide what to say, and issue high-level action choices that steer a faster control layer for movement, combat, and recovery. Because the player's and Ally's speech and actions continually shape each other and the course of the match, training requires data from actual gameplay. We therefore collect data across nearly 39k sessions in which real players play alongside Ally, recording gameplay, player speech, agent decisions, tool use, actions, and player feedback, and use these records for iterative training. To evaluate teammate quality, we use player feedback and preference comparisons to identify gaps between offline evaluations and player preferences, and iteratively refine the evaluation criteria. Deploying Ally in live service further requires low-latency on-device execution and safeguards for player-facing communication, which we address through model compression, context compaction, targeted safety training, runtime guardrails, and memory redaction. During the live service, we surveyed players in 141 countries. Among respondents whose play with Ally was confirmed in game records, positive responses exceeded negative responses by 25.1 percentage points when asked whether they would recommend Ally, with players describing Ally not only as a tool but also as a teammate or companion.

한국어 요약

한 줄 요약

PUBG Ally는 실시간 게임 플레이와 음성 대화를 결합한 첫 번째 상용 배틀로얄 게임 내 AI 동료이다.

핵심 기여도

핵심 아이디어

PUBG Ally는 단순한 자동화된 게임 플레이를 넘어, 플레이어와 자연스럽게 협력하고 대화를 통해 상호작용하는 AI 동료를 구현하기 위해 **언어 모델 기반의 고수준 행동 결정**(System 2)과 **빠른 행동 실행**(System 1)을 결합한 **이중 구조**(dual-layer architecture)를 도입했다.

이 구조는 **Behavior Tree**를 사용한 결정 실행 층과, **SLM**(Small Language Model)을 통해 플레이어의 음성 입력을 해석하고, 게임 상태를 분석하여 대화 및 행동을 결정하는 층으로 구성된다. 특히, **SLM은 31B teacher 모델**에서 지식 증류(distillation)를 통해 학습되었으며, **DAgger 알고리즘**을 기반으로 학습 과정에서 teacher 모델의 보정을 반복적으로 적용하여 정확도를 향상시켰다.

또한, **PUBG 게임 내의 실시간 상황**(예: 총격전, 부상 복구)에 따라 동적으로 대화와 행동을 조율해야 하므로, **음성과 행동의 일관성**(speech-action synchronization)을 유지하는 것이 핵심이다. 이를 위해 **context compaction**과 **runtime guardrails**를 통해 모델의 출력을 제어하고, **memory redaction**을 통해 민감 정보를 제거하는 등 안전성을 강화했다.

기술적 접근법

주요 결과

의의 및 한계

PUBG Ally는 **상용 게임 내에서 실시간 음성 대화와 자율 플레이를 결합한 첫 AI 동료**로, 게임 AI의 새로운 가능성을 제시한다. 특히, **플레이어의 실제 피드백을 반복 학습에 통합**함으로써, 기존의 오프라인 평가와 실제 플레이어 선호도 간의 격차를 줄이는 데 성공했다.

그러나, **System 2**(SLM)와 **System 1**(Behavior Tree)는 별도로 최적화되었으며, **하이버스와 모델을 공동 최적화하지 않았다는 한계**가 있다. 또한, **push-to-talk 방식의 음성 입력**과 **턴 기반 대화**로 인해 실시간 음성 입력 처리는 제한적이며, **Full-duplex 음성 모델**과의 통합이 필요하다는 점도 개선 과제로 제시되었다.

실용적 활용

PUBG Ally는 **게임 개발**(AI 동료 구현), **AI 대화 시스템**(음성 인터페이스), **로봇 협업**(Ludi 0.1 등 물리적 환경에서의 적용) 등 다양한 분야에서 활용 가능하다. 특히, **실시간 상황 판단과 대화를 동시에 처리하는 시스템**이 필요한 산업**(예: 스마트 홈, 자율 주행)**에서 모델 구조와 학습 방식을 적용할 수 있다.