Multi-Turn Agentic Scientific Literature Search via Workflow Induction

Scientific literature search often requires more than retrieving papers from a single query: users' intents are underspecified, preference-dependent, and evolve through interaction. Existing search agents typically rely on fixed pipelines or implicit language-only reasoning, making their search strategies difficult to control, inspect, and refine. We introduce PaperPilot, a multi-turn literature search agent that frames scientific search as workflow induction. Given an anchor paper and a user query, PaperPilot constructs an executable DAG of paper-search operators, including keyword search, citation expansion, filtering, scoring, reranking, and evidence extraction. User feedback is then used to refine both the query and the workflow itself. We train PaperPilot with supervised workflow imitation and preference optimization over controlled workflow corruptions. Experiments show that PaperPilot-9B improves over the base Qwen3.5-9B toolset agent under multi-turn interaction, increasing Hit@5 from 58.0 to 77.0, MRR from 47.5 to 59.4, and nDCG@10 from 26.8 to 32.5, while reducing workflow execution errors from 9.5% to 0%. These results show that explicit, editable search workflows provide an effective and controllable interface for aligning literature search agents with complex scientific intent.

한 줄 요약

PaperPilot는 사용자 피드백을 기반으로 과학 논문 검색 전략을 편집 가능한 DAG 워크플로우로 구축하는 멀티턴 리터러시 검색 에이전트이다.

핵심 기여도

PaperPilot은 키워드 검색, 인용 확장, 필터링, 재랭킹, 증거 추출 등 6가지 타입화된 연산자를 포함한 실행 가능한 DAG 워크플로우를 생성한다.
사용자 피드백을 워크플로우 편집 명령으로 변환하여 검색 전략을 정제한다.
PaperPilot-9B는 Qwen3.5-9B 기반 에이전트 대비 Hit@5 58.0 → 77.0, MRR 47.5 → 59.4, nDCG@10 26.8 → 32.5 향상, 워크플로우 실행 오류율 9.5% → 0% 감소.
워크플로우 유도 학습을 통해 GPT-5.4 웹 검색 기반 시스템을 초과하는 성능을 달성한다.

핵심 아이디어

기존 리터러시 검색 시스템은 고정된 파이프라인 또는 은시적 언어 추론에 의존하여 사용자 피드백을 유연하게 반영하기 어려웠다. PaperPilot는 사용자의 다중 턴 상호작용을 워크플로우 인덕션으로 모델링하여, 사용자 피드백을 워크플로우 편집 명령으로 변환한다. 이는 키워드 수정, 필터 변경, 재랭킹 기준 업데이트 등 구체적인 검색 연산으로 연결된다.

PaperPilot는 DAG 구조의 실행 가능한 워크플로우를 생성하며, 각 노드는 `keyword search`, `citation expansion`, `filtering`, `scoring`, `reranking`, `evidence extraction` 등 명시된 연산자로 구성된다. 사용자 피드백은 `add-node`, `modify-node`, `remove-node`와 같은 구조적 편집 명령으로 해석되어, 검색 전략을 정제한다.

이러한 접근은 사용자의 복잡한 검색 의도를 명시적이고 편집 가능한 워크플로우로 표현함으로써, 기존 시스템에서 관찰되는 검색 전략의 불확실성과 오류율을 줄일 수 있다.

기술적 접근법

**모델**: PaperPilot-9B는 Qwen3.5-9B 기반으로 훈련된 대형 언어 모델이다.
**워크플로우 생성**: 사용자 질의와 앵커 논문을 입력으로 받아, 키워드 검색, 인용 확장, 필터링 등 6가지 연산자를 포함한 DAG 워크플로우를 생성한다.
**워크플로우 편집**: 사용자 피드백을 `add-node`, `modify-node`, `remove-node`와 같은 명령으로 해석하여 워크플로우를 정제한다.
**학습 방법**:
**워크플로우 흉내 학습 (Workflow Imitation)**: 강력한 선생 모델에서 수집한 5가지 검색 방향 (predecessor, successor, sibling, benchmark, survey)의 워크플로우 트레이젝토리를 학습한다.
**선호도 최적화 (Preference Optimization)**: 성공적인 워크플로우를 구조적/의미적 오류로 변형한 쌍을 생성하여, 모델이 오류를 감지하고 수정하도록 훈련한다.

주요 결과

**Hit@5**: Qwen3.5-9B 기반 에이전트 대비 58.0 → 77.0 (+19.0), GPT-5.4 웹 검색 기반 대비 72.5 → 79.0 (+6.5)
**MRR**: Qwen3.5-9B 기반 에이전트 대비 47.5 → 59.4 (+11.9), GPT-5.4 웹 검색 기반 대비 60.2 → 65.3 (+5.1)
**nDCG@10**: Qwen3.5-9B 기반 에이전트 대비 26.8 → 32.5 (+5.7)
**워크플로우 실행 오류율**: Qwen3.5-9B 기반 에이전트 대비 9.5% → 0% 감소
**비용 효율성**: GPT-5.4 웹 검색 기반 대비 0.1508 달러/케이스로, DeepResearch (6.0903 달러/케이스) 대비 2개 자릿수 저렴

의의 및 한계

PaperPilot는 과학 리터러시 검색에서 사용자의 복잡한 의도를 명시적이고 편집 가능한 워크플로우로 표현함으로써, 기존 고정 파이프라인 시스템의 제한을 극복한다. 사용자 피드백을 워크플로우 편집 명령으로 해석하는 방식은 검색 전략의 유연성과 정확도를 동시에 향상시킨다. 또한, 워크플로우 인덕션 학습을 통해 모델이 구조적 오류를 감지하고 수정하는 능력을 향상시켜, 워크플로우 실행 오류율을 0%까지 줄였다.

그러나, 워크플로우 편집 과정에서 작은 모델은 구조적 복잡성을 다루는 데 어려움이 있었으며, 이는 훈련되지 않은 Qwen3.5-9B 기반 에이전트에서 2.0% → 9.5%의 오류율 증가로 나타났다. 이는 워크플로우 인덕션 학습이 모델의 안정성 향상에 필수