Share More, Search Less: Collaborative Parallel Thinking for Efficient Test-Time Scaling

Test-Time Scaling (TTS) enhances the reasoning capabilities of large language models by allocating additional inference compute to explore the solution space. However, existing parallel TTS methods typically keep branches isolated during search: intermediate discoveries remain branch-private and cannot guide other branches in time. This information isolation causes substantial redundant exploration, as branches repeatedly rediscover information already found elsewhere and require more search steps to collect complete decision information needed to reach correct answers. To bridge this gap, we propose Collaborative Parallel Thinking (CPT), a training-free inference framework that enables search-time information sharing across parallel branches. CPT extracts compact intermediate information from ongoing branches, maintains a deduplicated query-level information pool, and broadcasts pool entries through the input context, allowing each branch in subsequent search steps to reuse discoveries made by other branches rather than rediscover the same information. Empirically, experiments on HMMT and AIME benchmarks show that CPT establishes a stronger accuracy--latency Pareto frontier than strong baselines across rollout budgets and model scales, highlighting search-time collaboration as an effective direction for efficient parallel TTS.

📋 한 줄 요약

**[Test-Time Scaling / Parallel Thinking]** CPT가 parallel TTS branch 간 compact intermediate information을 deduplicated pool로 공유·broadcast해 redundant exploration 제거, HMMT·AIME에서 강한 accuracy-latency Pareto frontier.

🎯 핵심 기여도

Test-Time Scaling(TTS)이 추가 추론 compute를 solution space 탐색에 할당해 LLM 추론 능력을 강화함을 배경 소개.
기존 parallel TTS 방법이 search 중 branch를 isolate — intermediate discovery가 branch-private로 남아 다른 branch를 timely하게 guide하지 못함 진단.
이 정보 격리가 substantial redundant exploration을 유발 — branch가 다른 곳에서 이미 발견된 정보를 repeatedly 재발견·정답 도달에 필요한 complete decision information 수집에 더 많은 search step 요구.
CPT(Collaborative Parallel Thinking) 제안 — training-free 추론 프레임워크: 진행 중 branch에서 compact intermediate information 추출, deduplicated query-level information pool 유지, pool entry를 input context를 통해 broadcast — 각 branch가 후속 search step에서 다른 branch의 발견을 재사용 가능.

💡 핵심 아이디어

Parallel TTS의 효율성을 제약하는 근본 원인은 branch 간 정보 격리이며, training-free하게 compact intermediate information을 추출·deduplicate·broadcast하는 search-time collaboration이 redundant exploration을 제거해 accuracy-latency Pareto frontier를 push한다.

🔬 기술적 접근법

**방법론**: CPT — Collaborative Parallel Thinking, training-free 추론 프레임워크.
**핵심 기법**: (1) 진행 중 branch에서 compact intermediate information 추출, (2) Deduplicated query-level information pool 유지, (3) Pool entry를 input context를 통해 모든 branch에 broadcast, (4) 각 branch가 후속 search step에서 다른 branch 발견을 재사용, (5) Training 불필요·기존 parallel TTS 파이프라인에 plug-in.

📊 주요 결과

HMMT·AIME 벤치마크에서 강한 baseline 대비 더 강한 accuracy-latency Pareto frontier 정립.
다양한 rollout budget과 모델 scale에서 효과 입증.
Branch 간 redundant rediscovery 제거 효과 검증.
Search-time collaboration이 efficient parallel TTS의 effective direction임 시사.

💭 의의 및 한계

**의의**: Parallel TTS의 정보 격리 문제를 명확 진단하고 training-free 해법 제시, AIME·HMMT 등 수학 reasoning 벤치마크에서 정량 검증, 기존 TTS 방법과 호환되는 plug-in 가능성. **한계**: Information extraction·deduplication 품질이 효과 좌우, 매우 긴 context에서 pool entry broadcast의 token 비용 증가 가능, 수학 reasoning 중심 평가로 다른 도메인 일반화는 추가 검증.

🚀 실용적 활용

수학·코딩 reasoning의 효율적 추론 가속.
LLM 추론 cost 절감 기술.
Tree-search·beam-search 기반 추론 시스템 일반화.