ParaTempo: Efficient Parallel Reasoning via Temporal Confidence

Parallel reasoning improves the accuracy and robustness of large reasoning models by exploring multiple solution paths, but its computational cost grows with reasoning depth and branch count. Existing methods for managing these parallel paths typically rely on final-answer consensus, local token confidence, or isolated intermediate probes. However, these signals are often delayed, weakly tied to actual reasoning progress, or too noisy for dynamic, branch-level control. To address these limitations, we introduce ParaTempo, a training-free asynchronous parallel reasoning framework. ParaTempo is driven by temporal confidence, a branch-local measure of answer-space convergence. Each branch is periodically probed for a tentative answer probability distribution, and temporal confidence quantifies how sharply the recent intermediate probes concentrate on a dominant answer. Once sufficient evidence has accumulated, ParaTempo drives its entire control process from this single signal: low-confidence branches are pruned, branches that persistently commit to their dominant answer are retired early, freed computation is reallocated by forking new branches, and generation stops globally once the confidence-weighted vote concentrates. Without requiring synchronization among reasoning trajectories, ParaTempo adaptively allocates computation based on branch-level convergence. Experiments on challenging mathematical and scientific reasoning benchmarks show that ParaTempo reduces average latency by 21.8-32.2% and total token usage by 18.1-30.3% while maintaining competitive accuracy. Moreover, temporal confidence exhibits stronger temporal stability and predictive power for future branch convergence than token-level and instantaneous signals.

한 줄 요약

ParaTempo는 시간적 신뢰도를 기반으로 병렬 추론 과정을 효율적으로 제어하여, 수학 및 과학적 추론에서 21.8–32.2%의 지연 감소와 18.1–30.3%의 토큰 사용 감소를 달성한 비학습형 비동기 프레임워크이다.

핵심 기여도

**시간적 신뢰도**(temporal confidence)라는 새로운 분기 수준의 수렴 신호를 도입하여, 추론 과정의 안정성을 추적.
**비동기 병렬 추론** 프레임워크인 ParaTempo를 제안, 분기 제거(pruning), 조기 종료(retirement), 분기 복제(forking)를 통해 계산 자원을 적응적으로 할당.
**HMMT25, AIME26, HMMT26** 등 수학 및 과학적 추론 벤치마크에서, 기존 방법 대비 21.8–32.2%의 평균 지연 감소와 18.1–30.3%의 토큰 사용 감소를 달성.
**최강 병렬 제어기 대비 3.8–3.9%의 정확도 개선**을 보여주며, 기존 신호 대비 더 높은 예측력과 안정성을 나타냄.

핵심 아이디어

기존 병렬 추론 제어 방법은 최종 답변 합의(final-answer consensus), 토큰 수준 신뢰(token-level confidence), 단일 중간 탐지(isolated intermediate probes)에 의존하지만, 이들은 지연이 크거나, 실제 추론 진행과 약한 연관성을 가지거나, 분기 수준의 동적 제어에 불충분한 노이즈를 포함한다.

ParaTempo는 **시간적 신뢰도**(temporal confidence)라는 새로운 신호를 도입하여, 각 분기의 중간 답변 분포를 주기적으로 탐지하고, 최근 탐지 결과가 특정 답변에 얼마나 집중되어 있는지를 측정한다. 이 신호는 분기의 추론 안정성을 실시간으로 추적하며, **분기 제거, 조기 종료, 복제, 전역 종료** 등 계산 자원의 적응적 할당을 가능하게 한다.

이러한 접근은 **분기 간 동기화 없이 비동기적으로 제어**할 수 있으며, 기존 방법이 무시했던 **분기 간 계산 효율성의 불균형**을 해결한다.

기술적 접근법

**시간적 신뢰도**(temporal confidence)는 각 분기의 중간 답변 분포를 **슬라이딩 윈도우**를 통해 주기적으로 탐지하고, 최근 탐지 결과가 특정 답변에 얼마나 집중되어 있는지를 측정.
**분기 제거(pruning)**: 낮은 신뢰도를 가진 분기는 제거됨.
**조기 종료(retirement)**: 지속적으로 특정 답변에 집중하는 분기는 조기에 종료됨.
**복제(forking)**: 해제된 계산 자원은 유망한 분기에서 새로운 분기를 생성하여 재할당됨.
**전역 종료**: 신뢰도 가중치가 특정 답변에 집중되면 추론이 종료됨.
**모델**: Qwen3.5-35B-A3B, GPT-OSS-20B.
**벤치마크**: HMMT25, AIME26, HMMT26.
**하이퍼파라미터**: 탐지 주기, 슬라이딩 윈도우 크기, 신뢰도 임계값 등은 실험적으로 조정됨.

주요 결과

**HMMT25, AIME26, HMMT26** 데이터셋에서 ParaTempo는 **평균 지연**(average latency)을 기존 방법 대비 **21.8–32.2% 감소**, **토큰 사용량**(total token usage)을 **18.1–30.3% 감소**시키며, 정확도는 경쟁력 있는 수준을 유지.
**최강 병렬 제어기 대비 정확도 3.8–3.9% 개선**.
**시간적 신뢰도**는 토큰 수준 및 순간 신호 대비 **더 높은 예측력과 안정성**을 보임.

의의 및 한계

ParaTempo는 병렬 추론 과정에서 **계산 자원의 낭비를 줄이고, 정확도를 유지**하는 데 기여하며, 특히 **수학 및 과학적 추론**과 같은 복잡한 문제에서 실용적 효율성을 증명한다.

하지만, **시간적 신뢰도의 탐지 주기나 슬라이딩 윈도우 크기**는 데이터셋에 따라 최적화가 필요하며, **모든 분기에서 동일한 탐지 주기를 적용**하는 방식은 일부 경우에 불충분할 수 있다. 또한, **모델 종속성**(Qwen3.5-35B-A3B, GPT-OSS-20B)이 명시되지 않아 다른 모델에서의 일반화 가능성은 추가 연구가 필요하다.

실용적 활용

ParaTempo는 **복잡한 수학 문제 해결, 과학적 추론, 대규모 모델의 효율적 추론**에 적용 가능하며, **실시간 시스템**이나 **자원 제한 환경**에서 특히 유용하다. 또한, **모델 추론 비용을 줄이면서 정확도를 유지**해야 하는 산업 분야(예: 의료 진단, 금융 분석)에도 활용 가능하다.