Agent Workflow Memory

Despite the potential of language model-based agents to solve real-world tasks such as web navigation, current methods still struggle with long-horizon tasks with complex action trajectories. In contrast, humans can flexibly solve complex tasks by learning reusable task workflows from past experiences and using them to guide future actions. To build agents that can similarly benefit from this process, we introduce Agent Workflow Memory (AWM), a method for inducing commonly reused routines, i.e., workflows, and selectively providing workflows to the agent to guide subsequent generations. AWM flexibly applies to both offline and online scenarios, where agents induce workflows from training examples beforehand or from test queries on the fly. We experiment on two major web navigation benchmarks -- Mind2Web and WebArena -- that collectively cover 1000+ tasks from 200+ domains across travel, shopping, and social media, among others. AWM substantially improves the baseline results by 24.6% and 51.1% relative success rate on Mind2Web and WebArena while reducing the number of steps taken to solve WebArena tasks successfully. Furthermore, online AWM robustly generalizes in cross-task, website, and domain evaluations, surpassing baselines from 8.9 to 14.0 absolute points as train-test task distribution gaps widen.

한 줄 요약

AWM은 웹 탐색 작업에서 성능을 향상시키기 위해 반복적으로 사용되는 작업 흐름을 추출하고 이를 에이전트 메모리에 통합하는 방법이다.

핵심 기여도

AWM은 오프라인 및 온라인 환경에서 모두 적용 가능한 작업 흐름 추출 메커니즘을 제안함.
WebArena에서 기존 최고 성능 대비 51.1% 상대 성공률 향상.
Mind2Web에서 24.6% 상대 성공률 향상.
테스트-트레이닝 분포 차이가 클수록 8.9~14.0 절대 점수 개선.

핵심 아이디어

기존 에이전트는 고정된 예제나 맥락 학습에 의존하여 복잡한 작업에 대한 유연성 부족. AWM은 인간처럼 과거 경험에서 공통 작업 흐름(workflow)을 추출하고, 이를 메모리에 저장하여 미래 작업에 재사용하는 메커니즘을 도입. 예를 들어, "장소 이름으로 찾기"라는 흐름은 "장소의 우편 번호 얻기"라는 더 복잡한 작업의 하위 목표로 활용됨. 이는 지속적인 학습을 통해 점점 더 복잡한 흐름을 생성하며, 메모리 확장과 성능 향상을 이끌어냄.

기술적 접근법

AWM은 오프라인 및 온라인 두 가지 방식으로 작동.
**오프라인**: 훈련 예제에서 흐름 추출 후 메모리에 통합.
**온라인**: 평가 중 생성된 예측에서 흐름을 추출하며, 평가기 모듈을 통해 정확도 판단.
웹 탐색 작업에서 웹사이트 단위로 AWM 실행.
추출된 흐름은 추상적이고 재사용 가능한 형태로 저장됨.
Synapse와 비교해 +5.0% 요소 정확도, +4.0% 단계 성공률 향상.

주요 결과

**WebArena**: 기존 최고 성능 대비 51.1% 상대 성공률 향상.
**Mind2Web**: 24.6% 상대 성공률 향상.
**Cross-task, website, domain 평가**: 8.9~14.0 절대 점수 개선.
WebArena에서 10개 예제만 학습해도 22.5 점수 개선.

의의 및 한계

AWM은 복잡한 작업 해결 능력을 향상시키며, 웹 탐색 에이전트의 메모리 구축과 적응 능력에 기여함. 특히, 훈련-테스트 분포 차이가 클수록 더 높은 일반화 성능을 보임. 그러나 AWM은 흐름 추출 과정에서 정확한 평가기(evaluator)가 필요하며, 이는 완전히 자율적인 시스템 구축에 한계가 있을 수 있음.

실용적 활용

AWM은 웹 탐색, 모바일 앱 조작, 고객 지원 자동화 등 다양한 디지털 작업에 적용 가능. 특히, 반복적이고 복잡한 작업이 필요한 산업에서 에이전트의 효율성과 정확도를 높이는 데 유용함.