Beyond Semantic Similarity: Rethinking Retrieval for Agentic Search via Direct Corpus Interaction
Zhuofeng Li, Haoxiang Zhang, Cong Wei, Pan Lu, Ping Nie, Yi Lu, Yuyang Bai, Shangbin Feng, Hangxiao Zhu, Ming Zhong, Yuyu Zhang, Jianwen Xie, Yejin Choi, James Zou, Jiawei Han, Wenhu Chen, Jimmy Lin, Dongfu Jiang, Yu Zhang
arXiv:2605.05242 · 2026-05-08 공개 · arXiv · PDF
Abstract
Modern retrieval systems, whether lexical or semantic, expose a corpus through a fixed similarity interface that compresses access into a single top-k retrieval step before reasoning. This abstraction is efficient, but for agentic search, it becomes a bottleneck: exact lexical constraints, sparse clue conjunctions, local context checks, and multi-step hypothesis refinement are difficult to implement by calling a conventional off-the-shelf retriever, and evidence filtered out early cannot be recovered by stronger downstream reasoning. Agentic tasks further exacerbate this limitation because they require agents to orchestrate multiple steps, including discovering intermediate entities, combining weak clues, and revising the plan after observing partial evidence. To tackle the limitation, we study direct corpus interaction (DCI), where an agent searches the raw corpus directly with general-purpose terminal tools (e.g., grep, file reads, shell commands, lightweight scripts), without any embedding model, vector index, or retrieval API. This approach requires no offline indexing and adapts naturally to evolving local corpora. Across IR benchmarks and end-to-end agentic search tasks, this simple setup substantially outperforms strong sparse, dense, and reranking baselines on several BRIGHT and BEIR datasets, and attains strong accuracy on BrowseComp-Plus and multi-hop QA without relying on any conventional semantic retriever. Our results indicate that as language agents become stronger, retrieval quality depends not only on reasoning ability but also on the resolution of the interface through which the model interacts with the corpus, with which DCI opens a broader interface-design space for agentic search.
한국어 요약
📋 한 줄 요약
**[검색/에이전트]** 임베딩·인덱스 없이 grep·shell 등 일반 도구로 코퍼스를 직접 탐색하는 Direct Corpus Interaction(DCI) 패러다임을 제안한다.
🎯 핵심 기여도
- 고정된 top-k 유사도 인터페이스의 구조적 한계를 에이전트 검색 관점에서 분석
- 일반 셸 도구만으로 코퍼스를 직접 다루는 DCI 방법론 제시
- BRIGHT·BEIR 다수 데이터셋에서 강력한 sparse·dense·rerank 베이스라인 능가
- BrowseComp-Plus 및 multi-hop QA에서 의미 검색기 없이 강한 정확도 달성
💡 핵심 아이디어
기존 검색기는 단일 유사도 인터페이스로 코퍼스를 압축하기 때문에, 정확한 어휘 제약·희박 단서 결합·다단계 가설 정제가 필요한 에이전트 검색에서는 병목이 된다. LLM 에이전트가 grep, 파일 읽기, 셸 명령으로 raw corpus와 직접 상호작용하면 이런 표현력 한계를 우회할 수 있다.
🔬 기술적 접근법
- **모델/방법론**: 임베딩 모델·벡터 인덱스·검색 API 없이 LLM 에이전트가 셸 도구로 raw corpus를 직접 탐색
- **핵심 기법**: grep·파일 read·shell·경량 스크립트 조합을 통해 다단계 검색·중간 entity 발견·계획 수정 수행
📊 주요 결과
- BRIGHT, BEIR 일부 데이터셋에서 sparse/dense/rerank 베이스라인 모두 능가
- BrowseComp-Plus와 multi-hop QA에서 의미 검색기 없이도 강한 성능
- 오프라인 인덱싱 불필요, 변화하는 로컬 코퍼스에 자연스럽게 적응
💭 의의 및 한계
**의의**: 검색 품질이 모델 추론 능력뿐 아니라 코퍼스와의 인터페이스 해상도에 의해 결정된다는 새로운 관점 제시. 검색기 없는 RAG 대안 가능. **한계**: 매우 큰 코퍼스에서 grep 비용·지연이 부담될 수 있고, LLM 에이전트의 도구 사용 능력이 충분히 강할 때만 유효.
🚀 실용적 활용
- 코드베이스·로그·로컬 문서 검색 에이전트
- 인덱스 운영이 부담스러운 소규모·동적 코퍼스 환경
- 정확 매칭이 중요한 보안·법률·규정 검토 에이전트