Imprint Reader: From Weight-Update Readout to Behavioral Intervention

As language models take a growing role in AI development, a natural aspiration is for them to reflect on their own learning process, as humans do, and use that reflection to improve themselves. At the same time, these models have an advantage that human learners lack, since training leaves parameter-level traces that can, in principle, be inspected directly. However, current models cannot decode these traces into an explicit account of what they have learned. To this end, we introduce the Imprint Reader, a model trained with Semantic Mount-and-Read Tuning (SaRT) to describe frozen weight updates. SMaRT mounts each update onto the Reader and uses an anchor-free meta-query to elicit a natural-language description, while no-change and random-perturbation controls discourage unsupported claims. On held-out updates, the joint Reader reaches judge-based Pass@100 of 2% for knowledge and 16% for behavior. These results demonstrate the feasibility of natural-language readout while pointing to reliability across updates as the next step. Beyond free-form generation, the Reader provides a differentiable proxy for the gap between a specified target behavior and a candidate weight update. Its coordinate-aligned gradients support intervention through MetaEdit. At a 0.5% pruning rate, Reader-guided selection raises measured harmful-prompt refusal from 57.9% to 64.1% under a safety-maintenance target. Using behavior descriptions without target-task training data, MetaEdit increases the frequency of backtracking and sub-goal expressions in mathematical reasoning traces and raises BFCL Overall from 41.69% to 44.60%.

한 줄 요약

Imprint Reader는 가중치 업데이트를 자연어로 해독하고 행동 개입을 가능하게 하는 체계적 접근법을 제시한다.

핵심 기여도

**Imprint Reader** 모델을 제안하여, 가중치 업데이트를 자연어로 설명 가능하게 만든다.
**Semantic Mount-and-Read Tuning (SMaRT)** 알고리즘을 통해 업데이트를 모델 파라미터에 직접 마운트하고, 메타쿼리를 통해 설명을 유도한다.
**Pass@100** 지표에서, 지식 업데이트는 2%, 행동 업데이트는 16%의 성능을 달성한다.
**MetaEdit**을 통해 0.5%의 가중치 제거로 해로운 프롬프트 거부율을 57.9% → 64.1%로 향상시킨다.

핵심 아이디어

기존 언어 모델은 학습 과정을 스스로 반성하고 이를 기반으로 자기 개선을 수행할 수 없다. 그러나 학습 과정은 파라미터에 물리적으로 기록되므로, 이를 해독할 수 있다면 모델 스스로 학습을 조정할 가능성이 있다. 이 논문은 **Imprint Reader**라는 모델을 통해, **가중치 업데이트를 자연어로 해독**하고, 이를 기반으로 **MetaEdit을 통해 행동 개입**을 수행하는 새로운 프레임워크를 제시한다.

Imprint Reader는 **Semantic Mount-and-Read Tuning (SMaRT)**을 통해 학습되며, 업데이트를 모델 파라미터에 마운트하고, **anchor-free meta-query**를 통해 설명을 유도한다. **no-change 및 random-perturbation control**을 통해 무의미한 업데이트에 대한 설명을 억제함으로써 신뢰성을 높인다. 이는 기존의 가중치 분석 방법이 **정확한 행동 변화를 설명하지 못하는 문제**를 해결한다.

기술적 접근법

**Imprint Reader**: 가중치 업데이트를 자연어로 설명하는 모델.
**Semantic Mount-and-Read Tuning (SMaRT)**: 업데이트를 모델 파라미터에 마운트하고, anchor-free meta-query를 통해 설명을 유도.
**Control episodes**: no-change 및 random-perturbation 업데이트를 사용하여, 무의미한 설명을 억제.
**MetaEdit**: Reader의 **coordinate-aligned gradients**를 사용하여 원본 모델(Qwen3-14B)에 개입.
**Dataset**: Qwen3-14B에서 생성된 지식 및 행동 유도 업데이트를 사용.
**Hyperparameters**: 가중치 제거율은 0.5%로 설정.

주요 결과

**Pass@100**: Qwen3-14B 업데이트에서 지식 설명은 2%, 행동 설명은 16% (기준 대비).
**MetaEdit 성능**: 0.5% 제거율에서 해로운 프롬프트 거부율은 57.9% → 64.1% (+6.2%p).
**수학적 추론 개선**: MetaEdit을 사용하면 BFCL Overall 점수는 41.69% → 44.60% (+2.91%p).
**NLL 개선**: 매칭 업데이트는 0.1255 nats/token 감소 (비매칭 대비).

의의 및 한계

Imprint Reader는 가중치 업데이트를 자연어로 해독하고, 이를 기반으로 행동 개입을 수행하는 첫 사례로, **모델 스스로 학습 과정을 반성하고 조정하는 기초**가 될 수 있다. 특히, MetaEdit은 **목표 행동을 설명만으로 개입**할 수 있는 새로운 가능성을 제시한다.

하지만, 자연어 해독의 **신뢰도가 낮은 문제**가 있으며, Pass@100이 2~16%에 불과한 점에서 설명의 정확성과 일관성 향상이 필요하다. 또한, 설명이 완전하지 않아도 개입이 가능하다는 점은 **신뢰성과 해석 가능성 사이의 균형**을 고려해야 한다는 한계를 드러낸다.

실용적 활용

이 연구는 언어 모델이 **자체 학습 과정을 모니터링하고 개선하는 시스템** 구축에 기여할 수 있다. 예를 들어, **AI 안전성 강화**, **수학적 추론 능력 향상**, **자동화된 모델 최적화** 등에 활용 가능하다. 특히, MetaEdit은 **목표 행동을 설명만으로 개입**할 수 있어, 데이터 부족 환경에서 유용하다.