UniSteer: Text-Guided Flow Matching in Activation Space for Versatile LLM Steering

Activation-based control steers large language models (LLMs) by intervening on their internal representations during inference, and has emerged as an effective paradigm for controlling behaviors such as persona and style. However, existing methods often rely on fixed steering directions or task-specific intervention modules, making them difficult to adapt to fine-grained concepts and compositional constraints. We propose UniSteer, a text-guided activation flow matching model that learns a conditional distribution over residual-stream activations from natural-language conditions. Instead of fitting a separate intervention for each target behavior, UniSteer learns a universal conditional velocity field in activation space. At inference time, UniSteer performs flow inversion by partially transporting a source activation toward a latent state and regenerating it under a target textual condition before injecting it back into the frozen LLM. The same conditional model supports activation-space classification by selecting the textual label with the lowest reconstruction energy. Experiments on three target LLMs show that UniSteer provides a unified interface across behavioral control, truthfulness steering, fine-grained concept steering, multi-constraint instruction following, and activation-space classification.

📋 한 줄 요약

**[Activation Steering / Flow Matching]** UniSteer가 residual-stream activation의 conditional 분포를 텍스트 조건 flow matching으로 학습 — flow inversion으로 활성을 재생성·주입, 행동제어·진실성·세밀 개념·multi-constraint·classification까지 통합 인터페이스.

🎯 핵심 기여도

Activation-based control이 LLM 내부 representation에 inference 중 개입해 persona·style 같은 행동 제어 paradigm으로 부상했지만, 기존 방법은 고정 steering direction·task-specific intervention module에 의존해 세밀 개념·compositional constraint 적응 어려움 진단.
UniSteer 제안 — text-guided activation flow matching 모델로 residual-stream activation의 conditional 분포를 자연어 조건에서 학습.
각 target behavior에 별도 intervention을 fit하지 않고, activation 공간의 universal conditional velocity field 학습.
Inference 시 flow inversion — source activation을 latent state로 부분 transport 후 target textual condition에서 재생성, frozen LLM에 다시 inject. 동일 conditional 모델이 activation 공간 classification도 지원(가장 낮은 reconstruction energy의 textual label 선택). 3 target LLM 실험에서 UniSteer가 행동 제어·진실성 steering·세밀 개념 steering·multi-constraint instruction following·activation 공간 classification에서 통합 인터페이스 제공.

💡 핵심 아이디어

Activation-based 제어의 task-specific module 부담은 universal한 conditional velocity field를 text-guided flow matching으로 학습해 단일 모델로 해소할 수 있으며, flow inversion 기반 부분 transport·재생성 메커니즘이 frozen LLM에 다양한 control을 유연하게 주입한다.

🔬 기술적 접근법

**방법론**: UniSteer — text-guided activation flow matching.
**핵심 기법**: (1) Residual-stream activation에 대한 conditional flow matching 모델, (2) 자연어 조건에서 universal conditional velocity field 학습, (3) Inference 시 source activation을 latent state로 부분 transport(flow inversion), (4) Target textual condition에서 재생성 후 frozen LLM에 inject, (5) 동일 모델로 activation classification(최저 reconstruction energy label) 지원.

📊 주요 결과

3 target LLM에서 통합 인터페이스 검증.
행동 제어·truthfulness steering 능력 확인.
세밀 개념 steering·multi-constraint instruction following 동시 처리.
Activation 공간 classification 부수적 능력으로 입증.
별도 task-specific intervention 학습 없이 단일 conditional 모델로 다양 응용.

💭 의의 및 한계

**의의**: Activation steering의 unified framework 정립, 자연어 조건으로 유연한 fine-grained 제어 가능, flow matching의 generative 능력을 활성 공간에 도입, classification까지 동일 모델에서 가능한 양면성, frozen LLM에 plug-in 가능. **한계**: Conditional flow matching 학습 자체 비용, 매우 fine-grained·OOD 개념의 표현력은 학습 데이터 의존, residual-stream 특정 위치 의존성.

🚀 실용적 활용

LLM의 persona·style 통합 제어.
안전·진실성 steering 메커니즘.
Activation 공간 분류·해석 도구.