AutoWebGLM: A Large Language Model-based Web Navigating Agent

Hanyu Lai, Xiao Liu, Iat Long Iong, Shuntian Yao, Yuxuan Chen, Pengbo Shen, Hao Yu, Hanchen Zhang, Xiaohan Zhang, Yuxiao Dong, Jie Tang

arXiv:2404.03648 · 2026-07-27 공개 · arXiv · PDF

reinforcement-learning llm task-decomposition web-navigation curriculum-training chatglm html-simplification auto-webglm

Abstract

Large language models (LLMs) have fueled many intelligent web agents, but most existing ones perform far from satisfying in real-world web navigation tasks due to three factors: (1) the complexity of HTML text data (2) versatility of actions on webpages, and (3) task difficulty due to the open-domain nature of the web. In light of these challenges, we develop the open AutoWebGLM based on ChatGLM3-6B. AutoWebGLM can serve as a powerful automated web navigation agent that outperform GPT-4. Inspired by human browsing patterns, we first design an HTML simplification algorithm to represent webpages with vital information preserved succinctly. We then employ a hybrid human-AI method to build web browsing data for curriculum training. Finally, we bootstrap the model by reinforcement learning and rejection sampling to further facilitate webpage comprehension, browser operations, and efficient task decomposition by itself. For comprehensive evaluation, we establish a bilingual benchmark---AutoWebBench---for real-world web navigation tasks. We evaluate AutoWebGLM across diverse web navigation benchmarks, demonstrating its potential to tackle challenging tasks in real environments. Related code, model, and data are released at https://github.com/THUDM/AutoWebGLM.

한국어 요약

한 줄 요약

AutoWebGLM은 HTML 단순화 알고리즘과 강화학습을 결합한 웹 탐색 에이전트로, GPT-4를 능가하며 AutoWebBench에서 뛰어난 성능을 보인다.

핵심 기여도

핵심 아이디어

기존 웹 에이전트는 HTML 복잡성, 다양한 웹 행동, 개방적 도메인의 난이도로 인해 성능이 제한적이었다. AutoWebGLM은 인간의 브라우징 패턴을 모방하여 HTML을 단순화하고, 교육 과정 학습(curriculum learning)과 강화학습을 결합하여 웹 탐색 능력을 향상시킨다. 특히, RFT(Rejection Sampling Finetuning)를 도입하여 특정 도메인에서의 학습 효율을 높인다. 이는 기존 SFT나 DPO보다 더 높은 성능 향상을 유도하며, 실용적 웹 태스크 수행에 적합하다는 점에서 혁신적이다.

기술적 접근법

주요 결과

의의 및 한계

AutoWebGLM은 HTML 복잡성과 웹의 개방적 도메인 문제를 해결하는 첫 번째 LLM 기반 웹 에이전트로, 실용적 웹 탐색에 기여한다. 특히, RFT와 강화학습을 통한 부트스트랩 학습은 기존 에이전트의 오류 반복 문제를 완화시킨다. 그러나 모델은 여전히 특정 도메인에 대한 학습이 필요하며, HTML 단순화 과정에서 정보 손실이 발생할 수 있다. 또한, AutoWebBench는 영어와 중국어에만 제한되어 있어 다국어 지원이 필요하다.

실용적 활용

AutoWebGLM은 뉴스 요약, 온라인 쇼핑, 정보 검색 등 다양한 웹 기반 일상 업무 자동화에 활용 가능하다. 특히, 브라우저 확장형 웹 에이전트로 구현되어 있어 개인 및 기업의 생산성 향상에 기여할 수 있다.