AgentBoard: An Analytical Evaluation Board of Multi-turn LLM Agents

Evaluating Large Language Models (LLMs) as general-purpose agents is essential for understanding their capabilities and facilitating their integration into practical applications. However, the evaluation process presents substantial challenges. A primary obstacle is the benchmarking of agent performance across diverse scenarios within a unified framework, especially in maintaining partially-observable environments and ensuring multi-round interactions. Moreover, current evaluation frameworks mostly focus on the final success rate, revealing few insights during the process and failing to provide a deep understanding of the model abilities. To address these challenges, we introduce AgentBoard, a pioneering comprehensive benchmark and accompanied open-source evaluation framework tailored to analytical evaluation of LLM agents. AgentBoard offers a fine-grained progress rate metric that captures incremental advancements as well as a comprehensive evaluation toolkit that features easy assessment of agents for multi-faceted analysis. This not only sheds light on the capabilities and limitations of LLM agents but also propels the interpretability of their performance to the forefront. Ultimately, AgentBoard serves as a step towards demystifying agent behaviors and accelerating the development of stronger LLM agents.

한 줄 요약

AgentBoard는 다단계 대화형 LLM 에이전트를 분석적으로 평가하기 위한 벤치마크 및 오픈소스 평가 프레임워크이다.

핵심 기여도

9개의 독특한 태스크와 1,013개의 예시 환경을 포함한 AgentBoard 벤치마크를 제안.
각 환경에 대해 수작업으로 정의된 하위 목표(subgoals)를 기반으로 'progress rate'라는 세부 진전률 지표를 도입.
GPT-4가 Llama3, DeepSeek LLM에 이어 다단계 상호작용 능력에서 우수한 성능을 보임.
오픈소스 평가 툴킷을 통해 시각화 및 세부 성능 분석을 지원.

핵심 아이디어

기존 평가 프레임워크는 주로 최종 성공률(final success rate)에 집중하며, 에이전트의 중간 과정을 분석하지 못한다. 이는 특히 대부분의 모델이 성공률이 근접하거나 낮은 환경에서는 세부적인 차이를 파악하기 어렵게 만든다. AgentBoard는 이러한 문제를 해결하기 위해 다단계 상호작용과 부분적으로 관측 가능한 환경(partially-observable)을 반영한 평가 시스템을 제안한다. 핵심 아이디어는 ‘progress rate’라는 지표를 도입하여, 에이전트가 단계적으로 목표에 다가가는 과정을 측정함으로써 모델의 능력과 한계를 명확히 파악하는 것이다. 이는 기존의 단일 지표 중심 평가에서 벗어나, 에이전트 행동의 해석 가능성(interpretability)을 높이는 데 기여한다.

기술적 접근법

**AgentBoard 벤치마크**: 9개의 태스크(embodied AI, 게임 에이전트, 웹 에이전트, 툴 에이전트 등)와 1,013개의 환경으로 구성.
**Progress rate**: 각 샘플에 수작업으로 정의된 하위 목표(subgoals)를 기반으로 에이전트의 단계적 진전을 측정.
**평가 툴킷**: 웹 기반 분석 패널을 통해 세부 성능 분석, 하드/이지 예시 분류, 다양한 서브스킬 평가, 장기 상호작용 평가, grounding 정확도, 트래젝토리 시각화 등을 지원.
**프롬프트 설정**: one-shot in-context 예시와 함께 태스크 지시문을 사용.
**모델 벤치마킹**: GPT-4, Llama3, DeepSeek LLM 등 다양한 오픈 및 프로퍼티어리 모델 평가.

주요 결과

GPT-4가 Llama3와 DeepSeek LLM에 이어 다단계 상호작용 능력에서 높은 성능을 보임.
오픈소스 모델은 다단계 상호작용 능력에서 상대적으로 약점이 드러남.
'progress rate' 지표는 성공률이 낮은 환경에서도 모델의 세부 진전을 명확히 파악 가능.
웹 태스크에서 Zhihao Zhu가 평가 수행, 툴 태스크는 Cheng Yang이 분석 및 시각화 실험 진행.

의의 및 한계

AgentBoard는 LLM 에이전트의 평가를 단순 성공률 중심에서 벗어나, 세부 행동과 능력을 분석적으로 평가할 수 있는 체계적인 프레임워크를 제공한다. 이는 에이전트 모델의 개선 방향을 명확히 제시하고, 모델의 해석 가능성을 높이는 데 기여한다. 그러나 현재까지는 9개의 태스크와 1,013개의 환경만 포함되어 있어, 더 다양한 환경과 태스크에 대한 확장이 필요하다. 또한, 일부 모델은 여전히 기본 능력(예: 월드 모델링, self-reflection)에서 부족함을 보여, 이에 대한 개선 노력이 필요하다.

실용적 활용

AgentBoard는 웹 에이전트, 툴 에이전트, 게임 에이전트 등 다양한 실제 문제 해결에 활용되는 LLM 에이전트의 평가에 적합하다. 연구자와 개발자는 이 프레임워크를 통해 모델의 단계적 성능을 분석하고, 개선 방향을 도출할 수 있다. 특히, 모델의 해석 가능성을 높이는 데 기여하여, 산업 현장에서의 신뢰성 있는 에이전트 개발에 기반을 제공할 수 있다.