Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning

Reasoning language models have made substantial advances on a variety of complex tasks, yet their capabilities remain overwhelmingly English-centric: models primarily reason in English regardless of the language they are prompted in. This is inaccessible for non-English-speaking users, risks losing the intent of the original question, and forgoes knowledge more readily expressed in the target language. In this work, we advance L2 reasoning, the ability of a model to reason consistently in the language of the user's prompt, thus building an in-language bridge between the prompt and the answer. We approach this problem from a data-centric angle, investigating how to optimize data composition and scheduling in SFT for reasoning generalization. Building Tiny Aya L2-Thinker at 3.35B scale, we achieve an L2 reasoning rate above 93% across 60 languages on 6 benchmarks spanning math, commonsense reasoning, instruction following, open-ended generation, and cultural reasoning while keeping performance strong. We show the path to generalizing L2 reasoning to held-out languages goes through broader language coverage, readily available multilingual non-reasoning data, and a sufficient English reasoning backbone. These findings indicate that reasoning is a language-agnostic behavior that can be transferred across typologically diverse languages through careful data mixing and without requiring reasoning supervision in every target language. We release our model weights and multilingual reasoning data to support further research on accessible, in-language reasoning.

한 줄 요약

3.35B 규모의 Tiny Aya L2-Thinker 모델을 통해 60개 언어에서 93% 이상의 L2 추론률을 달성하며, 다국어 추론 성능을 확장하는 데이터 중심 접근법을 제시한다.

핵심 기여도

3.35B 규모의 Tiny Aya L2-Thinker 모델을 개발하여 60개 언어에서 93% 이상의 L2 추론률을 달성.
영어 추론 데이터와 다국어 비추론 데이터를 조합한 데이터 믹싱 전략을 통해 L2 추론을 확장.
6개 벤치마크(수학, 상식 추론, 문화적 추론 등)에서 높은 성능 유지.
모델 가중치와 다국어 추론 데이터셋을 공개하여 연구 확장을 지원.

핵심 아이디어

기존 언어 모델은 대부분 영어로 추론을 수행하므로 비영어 사용자에게 접근성이 낮고, 문화적 맥락을 잃는 문제가 있다. 본 연구는 사용자의 프롬프트 언어에서 추론을 수행하는 L2 추론(L2 Reasoning)을 목표로, 데이터 중심 접근법을 통해 이를 실현한다. 핵심 아이디어는 영어 추론 데이터와 다국어 비추론 데이터를 조합하여 모델이 다양한 언어에서 추론 능력을 일반화할 수 있도록 유도하는 것이다. 이는 추론이 언어와 무관한 행동이라는 가정에 기반하며, 모든 대상 언어에 추론 감독이 필요하지 않다는 점에서 혁신적이다. 연구는 데이터 믹싱(Data Mixing)을 통해 L2 추론을 확장할 수 있음을 보여주며, 이는 특히 저자원 언어에서도 효과적이다.

기술적 접근법

**모델**: 3.35B 규모의 Tiny Aya L2-Thinker 모델을 사용.
**데이터**: 영어 추론 데이터와 다국어 비추론 데이터를 조합하여 학습.
**SFT(감독 미세조정)**: 기존 추론 트레이스를 기반으로 L2 추론을 학습.
**데이터 믹싱 전략**: 영어 추론 데이터와 다국어 비추론 데이터를 조합하여 언어 간 일반화를 촉진.
**추론 언어 식별**: FastText와 GlotLID를 사용하여 추론 언어를 분류.
**메트릭**: L2 추론률, 태스크 정확도, 반복률, 추론 길이 등을 평가.

주요 결과

**MGSM, PolyMath, GlobalPIQA, Macaron-MCQ, Marco-Bench-MIF, MIST-OEG** 등 6개 벤치마크에서 60개 언어에서 평균 93% 이상의 L2 추론률 달성.
**Tiny Aya L2-Thinker**는 Qwen3.5-4B, M-Thinker-7B 등 기존 모델 대비 높은 L2 추론률과 정확도를 유지.
**L2 추론률 93%** (기존 영어 추론 모델 대비 +10% 이상 개선).
**45개 언어**를 커버하는 L2 추론 모델로, 오픈소스 모델 중 가장 넓은 언어 커버리지.

의의 및 한계

본 연구는 추론 능력이 특정 언어에 종속되지 않고, 데이터 믹싱을 통해 다양한 언어로 일반화될 수 있음을 입증하며, 다국어 추론 연구의 새로운 방향을 제시한다. 특히, L2 추론은 사용자의 문화적 맥락을 유지하고, 비영어 사용자에게 더 나은 접근성을 제공할 수 있다. 그러나, 모든 언어에 동일한 수준의 성능을 보장하지는 않으며, 일부 저자원 언어에서는 추론 정확도가 낮아질 수 있다. 또한, 데이터 믹싱 전략의 최적화는 추가 연구가 필요하며, 추론 과정에서의 반복 문제(도움루프)도 해결해야 할 과제이다.

실용적 활용

Tiny Aya L2-Thinker는 교육, 번역, 의료 등 다양한 분야에서 사용자 언어에 맞춘 추론을 제공할 수 있다. 특히, 문화적 지식이 중요한 지역별 문제 해결, 지역 언어로의 번역 및 생성, 사용자 맞춤형 추론 지원 등에 활용 가능하다. 또한, 저자원 언어 사용자에게도 AI 모델의 접근성을 높이는 데 기여할 수 있다.